Il CEO di OpenAI Sam Altman ha già discusso del suo desiderio di raggiungere un ragionamento a livello umano nell'A.I.Justin Sullivan/Getty Images
Nell’ambito del percorso di OpenAI verso l’intelligenza generale artificiale (A.G.I), un termine per la tecnologia che corrisponde all’intelligenza umana, secondo quanto riferito la società sta tentando di consentire all’A.I. modelli per eseguire ragionamenti avanzati. Tale lavoro si svolge nell'ambito di un progetto segreto dal nome in codice ' Fragola ,’ come riportato da Reuters, che ha osservato che il progetto era precedentemente noto come Q* o Q Star. Anche se il suo nome potrebbe essere cambiato, il progetto non è esattamente nuovo. Ricercatori e co-fondatori di OpenAI hanno precedentemente messo in guardia contro l’iniziativa, con preoccupazioni riguardo al fatto che, secondo quanto riferito, avrebbe avuto un ruolo nella breve estromissione di Sam Altman dalla carica di CEO di OpenAI a novembre.
Strawberry utilizza un metodo unico di A.I. post-allenamento. modelli, un processo che migliora le loro prestazioni dopo essere stati addestrati sui set di dati, secondo Reuters, che ha citato documenti interni di OpenAI e una persona che ha familiarità con il progetto. Con l’aiuto di set di dati di ricerca approfondita, l’azienda mira a creare modelli che mostrino il ragionamento a livello umano. Secondo quanto riferito, OpenAI sta esaminando come Strawberry possa consentire ai modelli di completare attività per un lungo periodo di tempo, effettuare ricerche sul Web da soli e intraprendere azioni in base ai risultati ed eseguire il lavoro degli ingegneri. OpenAI non ha risposto alle richieste di commento di Startracker.
Elon Musk e Ilya Sutskever hanno espresso preoccupazione per Q*
Altman, che ha già ha ribadito la volontà di OpenAI di creare modelli in grado di ragionare , ha perso brevemente il controllo della sua azienda l'anno scorso quando il suo consiglio di amministrazione lo ha licenziato per quattro giorni. Poco prima dell'estromissione erano diventati diversi dipendenti di OpenAI preoccupato per le scoperte presentato da quello che allora era noto come Q*, un progetto guidato da Ilya Sutskever, ex capo scienziato di OpenAI. Secondo quanto riferito, lo stesso Sutskever aveva iniziato a preoccuparsi della tecnologia del progetto, così come i dipendenti di OpenAI che lavoravano su A.I. sicurezza in quel momento. Dopo la sua reintegrazione, Altman si riferì alle notizie su Q* come a un sfortunata perdita in un'intervista con Verge.
Elon Musk, un altro co-fondatore di OpenAI , in passato ha anche lanciato l'allarme su Q*. Il miliardario, che ha rotto i legami con l’azienda nel 2018, ha fatto riferimento al progetto in una causa intentata contro OpenAI e Altman che da allora è stata archiviata. Mentre si discuteva della stretta partnership di OpenAI con Microsoft (MSFT), la causa di Musk ha affermato che i termini dell’accordo stabiliscono che Microsoft abbia diritti solo sui prodotti pre-A.G.I. tecnologia e che spetta al consiglio di amministrazione di OpenAI determinare quando la società avrà ottenuto l’A.G.I.
Musk ha sostenuto che il modello GPT-4 di OpenAI costituisce un'A.G.I, che secondo lui rappresenta una grave minaccia per l'umanità, secondo la causa. I documenti del tribunale hanno affermato che OpenAI sta attualmente sviluppando un modello noto come Q* che ha una pretesa ancora più forte nei confronti di A.G.I.
Recenti riunioni interne hanno suggerito che OpenAI sta facendo rapidi progressi verso il tipo di ragionamento a livello umano su cui Strawberry sta lavorando. In una riunione collettiva di OpenAI tenutasi all'inizio di questo mese, la società ha presentato un sistema a cinque livelli per monitorare i suoi progressi verso l’A.G.I., come riportato da Bloomberg. Sebbene la società abbia affermato di essere attualmente al primo livello, noto come chatbot, ha rivelato di aver quasi raggiunto il secondo livello di ragionamento, che coinvolge la tecnologia in grado di visualizzare la risoluzione dei problemi a livello umano. I passaggi successivi consistono nell'A.I. sistemi che agiscono come agenti che possono intraprendere azioni, innovatori che aiutano nell'invenzione e organizzazioni che svolgono il lavoro di un'organizzazione.