Pentru a spori securitatea proiectelor de învățare automată, OpenAI a anunțat formarea unui Comitet de siguranță și securitate. Acest nou organism de guvernanță apare în lumina schimbărilor recente din organizație, cum ar fi desființarea echipei sale interne de Superalignment care se ocupă de riscurile prezentate de AI.
Anunțul comitetului urmărește o serie de schimbări strategice în cadrul companiei, alături de începutul instruirii pentru modelul de generație următoare al companiei, care sugerează o progresie către AGI.
Consiliul OpenAI formează Comitetul pentru Siguranță și Securitate, responsabil pentru a face recomandări cu privire la deciziile critice de siguranță și securitate pentru toate proiectele OpenAI. https://t.co/tsTybFIl7o
— OpenAI (@OpenAI) 28 mai 2024
OpenAI introduce un nou comitet pentru o supraveghere îmbunătățită a IA
Dezvoltatorii GPT-4, OpenAI, și-au îmbunătățit și mai mult jocul, constituind un Comitet de siguranță și securitate puternic format din nouă membri. Acest panou include directorii organizației. Sam Altman în calitate de CEO și președinte al consiliului de administrație, Aleksander Madry, Lilian Weng, John Schulman, Matt Knight și Jakub Pachocki. Responsabilitatea lor principală va fi îmbunătățirea procesului de gestionare a riscurilor AI. Un raport detaliat este de așteptat să fie prezentat consiliului de administrație în următoarele nouăzeci de zile.
Citește și: Amazon se luptă să provoace supremația chipului AI a Nvidia
Schimbarea OpenAI în supravegherea siguranței urmează numeroaselor schimbări de conducere, cum ar fi părăsirea lui Ilya Sutskever și Jan Leike și dizolvarea echipei Superalignment responsabilă cu siguranța AI. Această restructurare arată dorința OpenAI de a-și îmbunătăți strategiile de gestionare a riscurilor AI, extinzând în același timp frontiera inovației AI.
OpenAI antrenează modelul Next Frontier
Pe lângă noul comitet, OpenAI a început să antreneze ceea ce ei numesc următorul model de frontieră. Acest model urmărește să depășească capacitățile modelelor actuale și să se apropie de atingerea AGI. Această mișcare face parte din misiunea lor continuă de a crea soluții AI care pot îndeplini eficient și eficient diverse sarcini. Directorul de tehnologie OpenAI, Mira Murati, a remarcat că actualizările primare ale GPT-4 vor prezenta îmbunătățiri majore ale modelului și pot reflecta astfel de evoluții în tehnologie și cazurile de utilizare aferente.
Citește și: Companiile AI din China încep un război aprig al prețurilor
Cele mai recente informații de la Microsoft, un partener important care furnizează infrastructură cloud pentru cercetarea AI, indică faptul că noul model va reprezenta un mare progres, pe care Tom Warner, CTO al Microsoft, îl caracterizează ca fiind o trecere de la o „orcă” la o „balenă”. din punct de vedere al capacităților și dimensiunii.
Anticiparea în jurul GPT-5 se intensifică
În mijlocul acestor tendințe, există șoapte cu privire la versiunea preliminară a modelului de limbaj de generație următoare al OpenAI, etichetat GPT-5. Rapoartele din martie arată că doar un număr mic de utilizatori au folosit acest prototip și au menționat că există îmbunătățiri față de GPT-4. Acest zgomot a creat așteptări extraordinare în rândul celor cunoscători de tehnologie și al publicului larg, deoarece părțile interesate așteaptă cu nerăbdare să afle mai multe despre perspectivele acestui nou model.
Tot ceea ce a făcut OpenAI, de la restructurarea panoului de siguranță până la promovarea tehnologiei sale, indică imaginea de ansamblu pentru a-și păstra poziția de lider în dezvoltarea AI. Evoluția constantă a OpenAI și integrarea platformelor sustenabile îl fac una dintre companiile lider care ajută la definirea drumului către viitorul tehnologiei AI.
Reportaj Cryptopolitan de Chris Murithi