Il co-fondatore di Ethereum Vitalik Butertin ha condiviso la sua opinione sull'intelligenza artificiale (AI) "superintelligente" definendola "rischiosa" in risposta ai cambiamenti di leadership in corso presso OpenAI.

Il 19 maggio, Cointelegraph ha riferito che l'ex capo dell'allineamento di OpenAI, Jan Leike, si è dimesso dopo aver affermato di aver raggiunto un "punto di rottura" con il management riguardo alle priorità fondamentali dell'azienda.

Leike ha affermato che "la cultura e i processi della sicurezza sono passati in secondo piano rispetto ai prodotti brillanti" di OpenAI, con molti che puntano verso gli sviluppi attorno all'intelligenza generale artificiale (AGI).

Si prevede che l’AGI sia un tipo di intelligenza artificiale pari o superiore alle capacità cognitive umane, il cui pensiero ha già iniziato a preoccupare gli esperti del settore, che affermano che il mondo non è adeguatamente attrezzato per gestire tali sistemi di intelligenza artificiale superintelligenti.

Questo sentimento sembra in linea con le opinioni di Buterin. In un post su X, ha condiviso i suoi pensieri attuali sull’argomento, sottolineando che non dovremmo affrettarci ad agire o respingere coloro che ci provano.

Fonte: Vitalik Buterin

Buterin ha sottolineato che i modelli aperti che funzionano su hardware di consumo sono una “copertura” contro un futuro in cui un piccolo conglomerato di aziende sarebbe in grado di leggere e mediare la maggior parte del pensiero umano.

“Tali modelli sono anche molto più bassi in termini di rischio catastrofico rispetto sia alla megalomania aziendale che ai militari”.

Questo è il suo secondo commento nell'ultima settimana sull'intelligenza artificiale e sulle sue crescenti capacità.

Il 16 maggio ha affermato che il modello GPT-4 di OpenAI ha già superato il test di Turing, che determina la “umanità” di un modello AI. Ha citato una nuova ricerca secondo cui la maggior parte degli esseri umani non riesce a decifrare quando parla con una macchina.

Correlati: la nuova funzione di richiamo "Black Mirror" di Microsoft registra tutto ciò che fai

Tuttavia Buterin non è il primo a esprimere questa preoccupazione. Il governo del Regno Unito ha recentemente esaminato attentamente il crescente coinvolgimento delle Big Tech nel settore dell’intelligenza artificiale, sollevando questioni legate alla concorrenza e al dominio del mercato.

Gruppi come 6079 AI stanno già emergendo su Internet, sostenendo l'IA decentralizzata per garantire che rimanga più democratizzata e non dominata dalle Big Tech.

Fonte: 6079.ai

Ciò segue la partenza di un altro membro senior del gruppo dirigente di OpenAI il 14 maggio, quando Ilya Sutskever, co-fondatore e capo scienziato, ha annunciato le sue dimissioni.

Sutskever non ha menzionato alcuna preoccupazione riguardo all’AGI. Tuttavia, nel suo post su X, ha espresso fiducia nel fatto che OpenAI svilupperà un'AGI che sia "sicura e vantaggiosa".

Rivista: "Le IA Sic l'una contro l'altra" per prevenire l'apocalisse dell'IA: David Brin, autore di fantascienza