Ilya Sutskever parla all'Università di Tel Aviv il 5 giugno 2023.Jack Guez/AFP tramite Getty Images
Ilya Sutskever, un pioniere dell'A.I. ricercatore e co-fondatore di OpenAI che ha recentemente lasciato l'A.I. l'azienda, dopo un tentativo fallito di spodestare il CEO Sam Altman, sta lanciando una nuova A.I. azienda che punta a mettere la sicurezza al primo posto. Conosciuta come Safe Superintelligence, Inc. (SSI), la startup si concentrerà esclusivamente sulla creazione sicura di un sistema di intelligenza artificiale. sistema in grado di superare l’intelletto umano. Perseguiremo una superintelligenza sicura in un colpo solo, con un obiettivo, un obiettivo e un prodotto, ha affermato Sutskever della nuova azienda in un post su X.
Le preoccupazioni riguardo alla minaccia esistenziale posta da A.I. sono stati diffusi tra coloro che lavorano con la tecnologia e hanno portato a divisioni negli approcci alla sicurezza tra aziende leader come OpenAI. Poco dopo che Sutskever si è dimesso da OpenAI a maggio, dopo un mandato di quasi dieci anni, anche Jan Leike, con il quale ha co-gestito un team di sicurezza da allora sciolto che supervisionava i rischi a lungo termine dell'IA, si è dimesso e ha affermato che la cultura e i processi dell'azienda sono migliorati. passato in secondo piano rispetto ai prodotti luccicanti.
https://x.com/ilyasut/status/1803472979873128498
Gli altri cofondatori di SSI includono Daniel Gross, che in precedenza era a capo di A.I. sforzi presso Apple (AAPL) ed è stato partner di Y Combinator; e Daniel Levy, che in precedenza ha lavorato al fianco di Sutskever presso OpenAI come membro del suo staff tecnico. Sebbene il trio non abbia rivelato i dettagli di come perseguiranno esattamente l’IA sicura, hanno descritto la missione della SSI come una missione che mancherà distrazione dovuta alle spese generali di gestione o ai cicli del prodotto e rimanere isolati dalle pressioni commerciali a breve termine. La startup, che avrà uffici a Palo Alto, in California e Tel Aviv in Israele, deve ancora rivelare il suo modello di business o gli investitori.
Un'A.I. esperto
La prima grande svolta di Sutskever nel mondo di A.I. ha avuto luogo nel 2012 mentre studiava all'Università di Toronto con Geoffrey Hinton, un A.I. accademico spesso indicato come il Padrino di A.I. Un'I.A. il laboratorio creato da Sutskever, Hinton e un altro studente è stato acquisito da Google, che ha assunto Sutskever come ricercatore nel 2013.
Lo scienziato informatico è infine entrato a far parte di OpenAI come cofondatore e capo scienziato nel 2015. Sia OpenAI che Demis Hassabis 'Google DeepMind erano interessati ad assumere Sutskever all'epoca, ha detto il co-fondatore di OpenAI Elon Musk durante un recente podcast. È stata una delle battaglie di reclutamento più dure che abbia mai avuto, ha detto.
Musk, che ha parlato apertamente dei pericoli dell’intelligenza artificiale, apparentemente non è convinto della nuova impresa di Sutskever. Qualsiasi dato A.I. startup è destinata a diventare l’opposto del suo nome, ha scritto su X il CEO di Tesla e SpaceX.
https://x.com/elonmusk/status/1803783427616821401
Sutskever ha fatto notizia lo scorso anno come membro del consiglio di amministrazione di OpenAI, composto da quattro persone, che ha affermato di aver perso la fiducia in Altman e lo ha rimosso brevemente dalla società a novembre prima di reinstallare rapidamente il CEO nonostante le resistenze di dipendenti e investitori. Poco dopo la fallita cacciata, Sutskever sembrò aver cambiato idea e disse che si rammaricava profondamente del suo ruolo nel licenziamento. Sutskever stesso si è dimesso come capo scienziato dell'A.I. azienda sei mesi dopo. All'epoca aveva accennato alla SSI affermando che stava passando a un progetto che per lui era personalmente significativo.