Para aumentar a segurança dos projetos de aprendizado de máquina, a OpenAI anunciou a formação de um Comitê de Segurança e Proteção. Este novo órgão de governação surge à luz das mudanças recentes na organização, como a abolição da sua equipa interna de Superalinhamento que lida com os riscos colocados pela IA.

O anúncio do comitê segue uma série de mudanças estratégicas dentro da empresa, juntamente com o início do treinamento para o modelo de próxima geração da empresa, que sugere uma progressão em direção à AGI.

O Conselho da OpenAI forma o Comitê de Segurança e Proteção, responsável por fazer recomendações sobre decisões críticas de segurança e proteção para todos os projetos da OpenAI. https://t.co/tsTybFIl7o

– OpenAI (@OpenAI) 28 de maio de 2024

OpenAI apresenta novo comitê para supervisão aprimorada de IA

Os desenvolvedores do GPT-4, OpenAI, melhoraram ainda mais seu jogo ao constituir um forte Comitê de Segurança e Proteção composto por nove membros. Este painel inclui os executivos da organização. Sam Altman como CEO e presidente do conselho, Aleksander Madry, Lilian Weng, John Schulman, Matt Knight e Jakub Pachocki. A sua principal responsabilidade será melhorar o tratamento do processo de gestão de riscos de IA.  Espera-se que um relatório detalhado seja entregue ao conselho de administração nos próximos noventa dias.

Leia também: Amazon está lutando para desafiar a supremacia do chip AI da Nvidia

A mudança da OpenAI na supervisão da segurança segue inúmeras mudanças de liderança, como a saída de Ilya Sutskever e Jan Leike, e a dissolução da equipe de Superalinhamento responsável pela segurança da IA. Esta reestruturação mostra o desejo da OpenAI de melhorar as suas estratégias de gestão de risco de IA, ao mesmo tempo que alarga a fronteira da inovação em IA.

OpenAI está treinando o próximo modelo de fronteira

Além do novo comitê, a OpenAI começou a treinar o que eles chamam de seu próximo modelo de fronteira. Este modelo visa superar as capacidades dos modelos atuais e aproximar-se da obtenção do AGI.  Esta mudança faz parte de sua missão contínua de criar soluções de IA que possam executar diversas tarefas de maneira eficaz e eficiente. A diretora de tecnologia da OpenAI, Mira Murati, observou que as atualizações primárias do GPT-4 apresentarão melhorias importantes no modelo e podem refletir tais desenvolvimentos na tecnologia e nos casos de uso relacionados.

Leia também: As empresas de IA da China iniciam uma guerra feroz de preços

Os últimos insights da Microsoft, importante parceira que fornece infraestrutura em nuvem para pesquisas em IA, indicam que o novo modelo representará um grande avanço, que Tom Warner, CTO da Microsoft, caracteriza como uma mudança de uma ‘orca’ para uma ‘baleia’. em termos de capacidades e tamanho.

A expectativa em torno do GPT-5 se intensifica

Em meio a essas tendências, há rumores sobre a versão preliminar do modelo de linguagem de próxima geração da OpenAI denominado GPT-5. Relatórios de março mostram que apenas um pequeno número de usuários utilizou este protótipo e mencionou que há melhorias em relação ao GPT-4. Este burburinho criou enormes expectativas entre os especialistas em tecnologia e o público em geral, uma vez que as partes interessadas anseiam por saber mais sobre as perspectivas deste novo modelo.

Tudo o que a OpenAI tem feito, desde a reestruturação do conselho de segurança até ao avanço da sua tecnologia, aponta para o panorama geral para manter a sua posição como um dos líderes no desenvolvimento da IA. A constante evolução e integração de plataformas sustentáveis ​​da OpenAI fazem dela uma das empresas líderes que ajuda a definir o caminho para o futuro da tecnologia de IA.

Reportagem criptopolitana de Chris Murithi