Le IA con capacità di ragionamento saranno meno prevedibili, dice Ilya Sutskever

L'ex scienziato capo di OpenAI Ilya Sutskever, uno dei più grandi nomi dell'intelligenza artificiale, ha avuto una previsione da fare venerdì: le capacità di ragionamento renderanno la tecnologia molto meno prevedibile.

Accettando il premio "Test Of Time" per il suo articolo del 2014 (link) insieme a Oriol Vinyals e Quoc Le di Google GOOG, Sutskever ha affermato che un grande cambiamento è all'orizzonte dell'intelligenza artificiale.

Un'idea che il suo team aveva esplorato un decennio fa, ovvero che la scalata dei dati per "pre-addestrare" i sistemi di IA li avrebbe portati a nuovi traguardi, stava cominciando a raggiungere i suoi limiti. L'aumento dei dati e della potenza di calcolo ha portato a ChatGPT, che OpenAI ha lanciato nel 2022, con il plauso di tutto il mondo.

"Ma il pre-addestramento come lo conosciamo finirà indiscutibilmente", ha detto Sutskever davanti a migliaia di partecipanti alla conferenza NeurIPS di Vancouver. "Mentre il calcolo cresce", ha detto, "i dati non crescono, perché abbiamo una sola Internet"

Sutskever ha proposto alcuni modi per spingere la frontiera nonostante questo enigma. Ha detto che la tecnologia stessa potrebbe generare nuovi dati, oppure che i modelli di intelligenza artificiale potrebbero valutare più risposte (link) prima di scegliere la risposta migliore per un utente, per migliorare la precisione. Altri scienziati hanno puntato sui dati del mondo reale.

Ma il suo discorso è culminato nella previsione di un futuro di macchine superintelligenti che, a suo dire, "ovviamente" attendono, un punto su cui alcuni non sono d'accordo. Quest'anno Sutskever ha co-fondato Safe Superintelligence Inc (link) in seguito al suo ruolo nella breve estromissione di Sam Altman da OpenAI, di cui si è detto pochi giorni dopo pentito.

Secondo l'autore, gli agenti di intelligenza artificiale, che sono in cantiere da tempo, si realizzeranno in quell'epoca futura, avranno una comprensione più profonda e saranno autoconsapevoli. L'IA ragionerà sui problemi come gli esseri umani.

C'è una fregatura.

"Più ragiona, più diventa imprevedibile", ha detto.

Ragionare su milioni di opzioni potrebbe rendere ogni risultato non ovvio. Ad esempio, AlphaGo, un sistema costruito da DeepMind di Alphabet, ha sorpreso gli esperti del complesso gioco da tavolo con la sua imperscrutabile 37a mossa, riuscendo a sconfiggere Lee Sedol in una partita del 2016.

Sutskever ha detto che "le IA scacchistiche, quelle veramente buone, sono imprevedibili per i migliori scacchisti umani"

L'IA come la conosciamo, ha detto, sarà "radicalmente diversa"