Secondo Cointelegraph, le aziende di intelligenza artificiale OpenAI e Anthropic hanno concordato di concedere all'US AI Safety Institute un accesso anticipato a qualsiasi nuovo modello di intelligenza artificiale significativo sviluppato dalle rispettive aziende. Questo accordo, guidato da reciproche preoccupazioni in materia di sicurezza, lascia il ruolo esatto del governo in caso di una svolta tecnologica significativa un po' ambiguo.
Il CEO e co-fondatore di OpenAI, Sam Altman, ha sottolineato l'importanza di questo accordo in un recente post sulla piattaforma social X, affermando: "Siamo felici di aver raggiunto un accordo con l'US AI Safety Institute per i test pre-rilascio dei nostri modelli futuri. Per molte ragioni, pensiamo sia importante che ciò avvenga a livello nazionale. Gli Stati Uniti devono continuare a guidare!"
Sia OpenAI che Anthropic sono focalizzate sullo sviluppo di un'intelligenza artificiale generale (AGI), una forma di IA in grado di svolgere qualsiasi compito che un essere umano possa svolgere, date le risorse necessarie. Ogni azienda ha il proprio statuto e la propria missione mirati a creare un'AGI in modo sicuro, con gli interessi dell'umanità al centro. Se una delle due aziende avesse successo, diventerebbero i principali custodi di questa tecnologia avanzata. Accettando di condividere i propri modelli con il governo degli Stati Uniti prima di qualsiasi lancio di prodotto, entrambe le aziende hanno effettivamente trasferito parte di questa responsabilità alle autorità federali.
Come ha recentemente riportato Cointelegraph, OpenAI potrebbe essere vicina a una svolta con i suoi progetti "Strawberry" e "Orion", che si dice possiedano capacità di ragionamento avanzate e nuovi metodi per affrontare il problema delle allucinazioni dell'IA. Il governo degli Stati Uniti avrebbe già esaminato questi strumenti e le prime iterazioni di ChatGPT che li incorporano.
Un post del blog del National Institute of Standards and Technology degli Stati Uniti indica che le linee guida di sicurezza associate a questo accordo sono volontarie per le aziende partecipanti. I sostenitori di questo approccio normativo soft-touch sostengono che incoraggia la crescita e consente al settore di autoregolarsi. I sostenitori, tra cui Altman, vedono questo accordo come un modello di come la cooperazione tra il governo e il settore aziendale possa essere reciprocamente vantaggiosa.
Tuttavia, ci sono preoccupazioni sulla potenziale mancanza di trasparenza associata alla regolamentazione light-touch. Se OpenAI o Anthropic raggiungono i loro obiettivi AGI e il governo decide che il pubblico non ha bisogno di essere informato, non sembra esserci alcun obbligo legale di divulgazione.