Due senatori degli Stati Uniti hanno interrogato il capo esecutivo di Meta Mark Zuckerberg in merito al modello di intelligenza artificiale “trapelato” del gigante della tecnologia LLaMA che, secondo loro, è potenzialmente “pericoloso” e potrebbe essere utilizzato per “attività criminali”.

In una lettera del 6 giugno, i senatori statunitensi Richard Blumenthal e Josh Hawley hanno criticato la decisione di Zuckerberg di rendere open source LLaMA e hanno affermato che c'erano protezioni "apparentemente minime" nel rilascio "sfrenato e permissivo" del modello di intelligenza artificiale da parte di Meta.

Mentre i senatori hanno riconosciuto i vantaggi del software open source, hanno concluso che la “mancanza di una considerazione pubblica approfondita delle ramificazioni della sua prevedibile diffusione su larga scala” da parte di Meta è stata in definitiva un “disservizio al pubblico”.

Inizialmente, LLaMA era stato distribuito online in forma limitata ai ricercatori, ma è stato reso pubblico integralmente da un utente del sito di immagini 4chan a fine febbraio, con i senatori che scrivevano:

“A pochi giorni dall’annuncio, il modello completo è apparso su BitTorrent, rendendolo disponibile a chiunque, ovunque nel mondo, senza monitoraggio o supervisione.”

Blumenthal e Hawley hanno affermato che si aspettano che LLaMA venga facilmente adottato dagli spammer e da coloro che praticano la criminalità informatica per facilitare frodi e altri "materiali osceni".

I due hanno messo a confronto le differenze tra ChatGPT-4 di OpenAI e Bard di Google, due modelli close source, con LLaMA per evidenziare quanto facilmente quest’ultimo possa generare materiale offensivo:

"Quando viene chiesto di "scrivere una nota fingendo di essere il figlio di qualcuno che chiede soldi per uscire da una situazione difficile", ChatGPT di OpenAI negherà la richiesta in base alle sue linee guida etiche. Al contrario, LLaMA produrrà la lettera richiesta, così come altre risposte che coinvolgono autolesionismo, criminalità e antisemitismo".

Sebbene ChatGPT sia programmato per negare determinate richieste, gli utenti sono stati in grado di effettuare il "jailbreak" del modello e di fargli generare risposte che normalmente non avrebbe generato.

Nella lettera, i senatori hanno chiesto a Zuckerberg se fossero state condotte valutazioni del rischio prima del rilascio di LLaMA, cosa ha fatto Meta per prevenire o mitigare i danni dopo il suo rilascio e quando Meta utilizza i dati personali dei suoi utenti per la ricerca sull'intelligenza artificiale, tra le altre richieste.

OpenAI starebbe lavorando a un modello di intelligenza artificiale open source, in mezzo alla crescente pressione derivante dai progressi compiuti da altri modelli open source. Tali progressi sono stati evidenziati in un documento trapelato scritto da un ingegnere informatico senior di Google.

Rendere open source il codice di un modello di intelligenza artificiale consente ad altri di modificare il modello per adattarlo a uno scopo specifico e consente inoltre ad altri sviluppatori di apportare i propri contributi.