Para mejorar la seguridad de los proyectos de aprendizaje automático, OpenAI ha anunciado la formación de un Comité de Seguridad y Protección. Este nuevo órgano de gobierno surge a la luz de los cambios recientes en la organización, como la abolición de su equipo interno de Superalineación que se ocupa de los riesgos planteados por la IA.
El anuncio del comité sigue a una serie de cambios estratégicos dentro de la empresa, junto con el inicio de la formación para el modelo de próxima generación de la empresa, que insinúa una progresión hacia AGI.
La Junta de OpenAI forma un Comité de Seguridad y Protección, responsable de hacer recomendaciones sobre decisiones críticas de seguridad para todos los proyectos de OpenAI. https://t.co/tsTybFIl7o
– OpenAI (@OpenAI) 28 de mayo de 2024
OpenAI presenta un nuevo comité para mejorar la supervisión de la IA
Los desarrolladores de GPT-4, OpenAI, han mejorado aún más su juego al constituir un sólido Comité de Seguridad de nueve miembros. Este panel incluye a los ejecutivos de la organización. Sam Altman como director ejecutivo y presidente de la junta directiva, Aleksander Madry, Lilian Weng, John Schulman, Matt Knight y Jakub Pachocki. Su responsabilidad principal será mejorar el manejo del proceso de gestión de riesgos de la IA. Se espera que se entregue un informe detallado al consejo de administración dentro de los próximos noventa días.
Lea también: Amazon está luchando por desafiar la supremacía del chip de inteligencia artificial de Nvidia
El cambio de OpenAI en la supervisión de la seguridad sigue a numerosos cambios de liderazgo, como la salida de Ilya Sutskever y Jan Leike, y la disolución del equipo de Superalignment a cargo de la seguridad de la IA. Esta reestructuración muestra el deseo de OpenAI de mejorar sus estrategias de gestión de riesgos de IA y al mismo tiempo ampliar la frontera de la innovación en IA.
OpenAI está entrenando el modelo de la próxima frontera
Además del nuevo comité, OpenAI ha comenzado a entrenar lo que llaman su próximo modelo de frontera. Este modelo pretende superar las capacidades de los modelos actuales y acercarse a alcanzar el AGI. Este movimiento es parte de su misión continua de crear soluciones de inteligencia artificial que puedan realizar diversas tareas de manera efectiva y eficiente. Mira Murati, directora de tecnología de OpenAI, señaló que las actualizaciones principales de GPT-4 presentarán mejoras importantes en el modelo y pueden reflejar dichos desarrollos en la tecnología y los casos de uso relacionados.
Lea también: Las empresas chinas de inteligencia artificial inician una feroz guerra de precios
Los últimos conocimientos de Microsoft, un importante socio que proporciona infraestructura en la nube para la investigación de la IA, indican que el nuevo modelo representará un gran avance, que Tom Warner, CTO de Microsoft, caracteriza como un paso de una "orca" a una "ballena". en términos de capacidades y tamaño.
Se intensifica la anticipación en torno a GPT-5
En medio de estas tendencias, hay rumores sobre la versión preliminar del modelo de lenguaje de próxima generación de OpenAI denominado GPT-5. Los informes de marzo muestran que solo un pequeño número de usuarios utilizó este prototipo y mencionaron que existen mejoras en comparación con GPT-4. Este rumor ha creado enormes expectativas entre los conocedores de la tecnología y el público en general, ya que las partes interesadas esperan saber más sobre las perspectivas de este nuevo modelo.
Todo lo que OpenAI ha hecho, desde reestructurar el consejo de seguridad hasta impulsar su tecnología, apunta hacia el panorama general para mantener su posición como uno de los líderes en el desarrollo de la IA. La constante evolución e integración de plataformas sostenibles de OpenAI la convierten en una de las empresas líderes que ayudan a definir el camino hacia el futuro de la tecnología de IA.
Informe criptopolitano de Chris Murithi
