Geoffrey Hinton parla durante la Collision 2023 all'Enercare Centre di Toronto, Canada.Ramsey Cardy/Sportsfile tramite Getty Images
Elon Musk e Geoffrey Hinton, un accademico pioniere dell’intelligenza artificiale (A.I.) spesso definito il Padrino dell’A.I., sono apparentemente allineati sulle minacce poste dalla tecnologia emergente all’umanità. Ma quando Musk, che l'anno scorso ha lanciato l'A.I. startup xAI, ha recentemente chiesto a Hinton di entrare a far parte di un comitato consultivo, quello del miliardario flusso di coscienza Le divagazioni hanno indotto Hinton a inventare una scusa per lasciare la chiamata dopo 20 minuti, ha detto l'informatico britannico-canadese al Globe and Mail in un'intervista questa settimana.
Ho organizzato un incontro per staccarlo dal telefono, ha detto Hinton. Non gli piacerà. Perché essere al centro dell’attenzione, è quello che vuole. Non penso che sia più mio amico.
Attraverso una carriera accademica incentrata sulle reti neurali, un processo di apprendimento automatico modellato sui neuroni del cervello umano che consente ai programmi informatici di apprendere competenze analizzando i dati, Hinton ha svolto un ruolo fondamentale nel plasmare le basi dell'intelligenza artificiale. sistemi che alimentano artisti del calibro di ChatGPT di OpenAI. Ma da quando ha lasciato il suo ruolo in Google (GOOGL) nel 2023, dopo un mandato decennale, è diventato uno dei critici più accesi del modo in cui le aziende Big Tech stanno sviluppando la tecnologia.
Anche Musk mette in guardia da tempo sui pericoli dell’intelligenza artificiale e ha ribadito le affermazioni cautelative di Hinton , twittando l'anno scorso che l'accademico sa di cosa sta parlando. Ma lo stesso Musk, insieme a figure potenti come Peter Thiel (un investitore chiave in numerosi laboratori di intelligenza artificiale) e Mark Zuckerberg, sono parte del problema, secondo Hinton.
Mentre si discute di come l'A.I. i dati di addestramento devono essere curati per evitare che i robot vengano utilizzati senza una bussola morale, Hinton ha sottolineato la necessità di regolamentare l’A.I. leader per raggiungere tali obiettivi. L’unica cosa che potrebbe tenere sotto controllo Elon, Peter Thiel e Zuckerberg è la regolamentazione del governo, ha detto a The Globe and Mail. Questa è l’unica cosa abbastanza forte per svolgere il lavoro.
segno solare dell'11 novembre
All’inizio di questo mese, Hinton ha anche approvato una lettera aperta firmata da più di una dozzina di ex dipendenti di OpenAI in cui affermavano che le attuali protezioni degli informatori sono insufficienti e sostenevano che A.I. aziende come OpenAI stanno reprimendo le critiche dei lavoratori che sostengono le preoccupazioni sulla sicurezza. La lettera ha fatto seguito alla partenza di diversi importanti dipendenti di OpenAI come Ilya Sutskever, che in precedenza aveva guidato la fallita cacciata del CEO di OpenAI Sam Altman.
Geoffrey Hinton ha fatto da mentore a molti A.I. figure di potere
Sutskever e l’informatico Alex Krizhevsky erano entrambi ex studenti di Hinton all’Università di Toronto e nel 2012 hanno lavorato insieme al professore per fare passi avanti nelle reti neurali. L'anno successivo, Google sborsò 44 milioni di dollari per acquisire un'azienda fondata dai tre e assunse tutti e tre come dipendenti. Hinton ha successivamente ricevuto il Premio Turing, noto come Premio Nobel per l'informatica, insieme ai colleghi accademici Yoshua Bengio e Yann LeCun per i loro contributi alle reti neurali e allo sviluppo dell'intelligenza artificiale.
Hinton non si rammarica necessariamente del suo coinvolgimento sul campo. Se non l’avessi fatto io, lo avrebbe fatto qualcun altro, ha detto, aggiungendo che tutto potrebbe essere successo qualche settimana dopo. Ma l’informatico continua a lanciare l’allarme sui pericoli della tecnologia e sulla sua convinzione che, se non verranno prese misure preventive, l’A.I. le macchine alla fine diventeranno più intelligenti degli umani e diventeranno disoneste. A.I. gli agenti progettati semplicemente per organizzare vacanze e acquistare pacchetti per esseri umani, ad esempio, si renderanno presto conto che maggiore controllo potranno ottenere, più efficienti potranno essere nel farlo, ha affermato Hinton. Controllano il mondo in modo che possano ottenere cose. Quindi, in questo senso, queste macchine sono come bambini piccoli. E noi siamo come i genitori che non hanno la minima idea di come allevarli.
Per Hinton, la terribile realtà di A.I. sono solo diventati più pressanti. Mentre in precedenza credeva che la tecnologia avesse il potenziale per spazzare via l’umanità in 30-50 anni, da allora quella cifra è passata a un periodo compreso tra cinque e 20 anni. C'è una probabilità 50-50 che l'A.I. diventerà più intelligente di noi, ha detto. Quando diventerà più intelligente di noi, non so quale sia la probabilità che prenda il sopravvento, ma mi sembra abbastanza probabile.