Per migliorare la sicurezza dei progetti di machine learning, OpenAI ha annunciato la formazione di un comitato per la sicurezza e la protezione. Questo nuovo organo di governance emerge alla luce dei recenti cambiamenti nell’organizzazione, come l’abolizione del team interno di Superalignment che si occupa dei rischi posti dall’intelligenza artificiale.
L’annuncio del comitato fa seguito a una serie di cambiamenti strategici all’interno dell’azienda, insieme all’inizio della formazione per il modello di prossima generazione dell’azienda che suggerisce una progressione verso l’AGI.
Il consiglio di amministrazione di OpenAI forma un comitato per la sicurezza e la protezione, responsabile di formulare raccomandazioni sulle decisioni critiche in materia di sicurezza e protezione per tutti i progetti OpenAI. https://t.co/tsTybFIl7o
– OpenAI (@OpenAI) 28 maggio 2024
OpenAI presenta un nuovo comitato per una migliore supervisione sull'intelligenza artificiale
Gli sviluppatori di GPT-4, OpenAI, hanno migliorato ulteriormente il loro gioco costituendo un forte comitato per la sicurezza e la protezione composto da nove membri. Questo pannello comprende i dirigenti dell'organizzazione. Sam Altman nel ruolo di CEO e presidente del consiglio, Aleksander Madry, Lilian Weng, John Schulman, Matt Knight e Jakub Pachocki. La loro responsabilità principale sarà quella di migliorare la gestione del processo di gestione del rischio IA. Si prevede che una dettagliata informativa sarà presentata al consiglio di amministrazione entro i prossimi novanta giorni.
Leggi anche: Amazon sta lottando per sfidare la supremazia dei chip AI di Nvidia
Il cambiamento di OpenAI nella supervisione della sicurezza segue numerosi cambiamenti di leadership come l’uscita di Ilya Sutskever e Jan Leike e lo scioglimento del team Superalignment responsabile della sicurezza dell’IA. Questa ristrutturazione mostra il desiderio di OpenAI di migliorare le proprie strategie di gestione del rischio AI estendendo al contempo la frontiera dell’innovazione dell’IA.
OpenAI sta addestrando il modello della prossima frontiera
Oltre al nuovo comitato, OpenAI ha iniziato a formare quello che chiamano il loro modello di prossima frontiera. Questo modello mira a superare le capacità dei modelli attuali e ad avvicinarsi al raggiungimento dell’AGI. Questa mossa fa parte della loro continua missione di creare soluzioni di intelligenza artificiale in grado di svolgere varie attività in modo efficace ed efficiente. Mira Murati, Chief Technology Officer di OpenAI, ha osservato che i principali aggiornamenti di GPT-4 presenteranno importanti miglioramenti nel modello e potrebbero riflettere tali sviluppi nella tecnologia e nei relativi casi d'uso.
Leggi anche: Le aziende cinesi di intelligenza artificiale iniziano una feroce guerra dei prezzi
Gli ultimi approfondimenti di Microsoft, un importante partner che fornisce infrastrutture cloud per la ricerca sull'intelligenza artificiale, indicano che il nuovo modello rappresenterà un grande progresso, che Tom Warner, il CTO di Microsoft, definisce come il passaggio da un'"orca" a una "balena" in termini di capacità e dimensioni.
L'attesa attorno al GPT-5 si intensifica
In mezzo a queste tendenze, ci sono voci riguardanti la versione preliminare del modello linguistico di prossima generazione di OpenAI denominato GPT-5. I rapporti di marzo mostrano che solo un piccolo numero di utenti ha utilizzato questo prototipo e hanno affermato che ci sono miglioramenti rispetto a GPT-4. Questo brusio ha creato enormi aspettative tra gli esperti di tecnologia e il pubblico in generale poiché le parti interessate non vedono l’ora di saperne di più sulle prospettive di questo nuovo modello.
Tutto ciò che OpenAI ha fatto, dalla ristrutturazione del comitato di sicurezza allo sviluppo della sua tecnologia, punta al quadro generale per mantenere la sua posizione come uno dei leader nello sviluppo dell'intelligenza artificiale. La costante evoluzione di OpenAI e l’integrazione di piattaforme sostenibili la rendono una delle aziende leader che contribuisce a definire il percorso verso il futuro della tecnologia AI.
Reportage criptopolita di Chris Murithi