Le società di intelligenza artificiale OpenAI e Anthropic hanno recentemente concordato di fornire all'AI Security Institute statunitense l'accesso anticipato a qualsiasi nuovo modello di intelligenza artificiale "significativo" sviluppato, ha riferito Cointelegraph.
Sebbene l’accordo sia stato presumibilmente firmato per preoccupazioni condivise sulla sicurezza, non è chiaro quale sarà il ruolo specifico del governo quando le scoperte tecnologiche avranno implicazioni significative sulla sicurezza.
Il CEO e co-fondatore di OpenAI, Sam Altman, ha affermato sulla piattaforma di social media X che l'accordo è un passo necessario e ha sottolineato la necessità che gli Stati Uniti continuino a guidare a livello nazionale.
Sia OpenAI che Anthropic sono impegnati nello sviluppo dell’intelligenza generale artificiale (AGI), ovvero un’intelligenza artificiale in grado di completare qualsiasi compito con le risorse umane. Ogni azienda ha il proprio statuto e la propria missione per creare un’AGI in sicurezza con al centro il beneficio umano.
Firmando un accordo con il governo degli Stati Uniti per divulgare i propri modelli prima del rilascio di un prodotto, le aziende trasferiscono tale responsabilità al governo federale.
OpenAI potrebbe essere sull'orlo di una svolta, con i suoi progetti "Strawberry" e "Orion" che si dice siano capaci di ragionamento avanzato e di risolvere problemi di allucinazioni nell'intelligenza artificiale, ha riferito Cointelegraph. Il governo degli Stati Uniti ha già visto questi strumenti e le loro prime iterazioni interne in ChatGPT.
Un post sul blog del National Institute of Standards and Technology indica che l’accordo e le relative linee guida sulla sicurezza sono volontari per le aziende partecipanti. I sostenitori sostengono che una regolamentazione così leggera aiuta la crescita e consente al settore di autoregolamentarsi.
Tuttavia, uno dei potenziali problemi con una regolamentazione leggera è la mancanza di trasparenza. Se OpenAI o Anthropic avessero successo, non vi sarebbe alcun obbligo legale di divulgarli se il governo decidesse che il pubblico non ha bisogno di saperlo.