Le aziende di intelligenza artificiale OpenAI e Anthropic hanno recentemente concordato di dare all'US AI Safety Institute un accesso anticipato a tutti i nuovi modelli di intelligenza artificiale "importanti" sviluppati dalle rispettive aziende.

Sebbene l’accordo sia stato presumibilmente firmato per preoccupazioni reciproche sulla sicurezza, non è chiaro quale sarebbe esattamente il ruolo del governo in caso di una svolta tecnologica con implicazioni significative sulla sicurezza.

Sam Altman, CEO e cofondatore di OpenAI, ha considerato l'accordo come un passaggio necessario in un recente post sulla piattaforma di social media X.

OpenAI e Anthropic stanno lavorando entrambi verso lo stesso obiettivo: lo sviluppo di un'intelligenza artificiale generale (AGI). Non esiste un consenso scientifico su come esattamente AGI dovrebbe essere definita, ma l'idea di base è un'IA in grado di fare tutto ciò che un essere umano potrebbe fare date le risorse necessarie.

Entrambe le aziende, separatamente, hanno statuti e missioni che spiegano che i loro obiettivi indipendenti sono creare un'AGI in modo sicuro con gli interessi dell'umanità al centro. Se una o entrambe le aziende avessero successo, diventerebbero di fatto i guardiani della tecnologia in grado di infondere alle macchine l'intelligenza di un essere umano.

Con la firma di un accordo con il governo degli Stati Uniti per divulgare e condividere i propri modelli prima di qualsiasi lancio di prodotto, entrambe le aziende hanno demandato tale responsabilità al governo federale.

Zona 51

Come ha recentemente riportato Cointelegraph, OpenAI potrebbe essere sull'orlo di una svolta. I progetti "Strawberry" e "Orion" dell'azienda dovrebbero essere capaci di ragionamento avanzato e nuove tecniche per gestire il problema delle allucinazioni dell'IA.

Secondo un rapporto di The Information, il governo degli Stati Uniti ha già visto implementati questi strumenti e tutte le prime iterazioni interne di ChatGPT che li contengono.

Un post sul blog del National Institute of Standards and Technology degli Stati Uniti indica che questo accordo e le linee guida di sicurezza che lo circondano sono tutti volontari per le aziende partecipanti.

Il vantaggio di questa forma di regolamentazione soft touch, secondo le aziende e gli analisti che la sostengono, è che stimola la crescita e consente al settore di autoregolarsi. I sostenitori, come Altman, citano questo accordo come esempio di come tale cooperazione possa avvantaggiare sia il governo che il mondo aziendale.

Tuttavia, uno degli effetti collaterali potenzialmente preoccupanti della regolamentazione light-touch è la mancanza di trasparenza. Se OpenAI o Anthropic hanno successo nella loro missione e il governo ritiene che il pubblico non abbia bisogno di saperlo, non sembra esserci alcun impulso legale che richieda la divulgazione.


Correlato: Il CEO di Anthropic afferma che il futuro dell'intelligenza artificiale è una mente alveare con una struttura aziendale