Según Cointelegraph, el investigador de seguridad de OpenAI, Miles Brundage, ha dejado su puesto como jefe de 'Preparación para AGI' y ha salido de la empresa el 23 de octubre. Brundage, quien se unió a OpenAI en 2018, era el principal oficial de seguridad de la compañía. En una publicación de Substack discutiendo su salida, reveló que el equipo de 'Preparación para AGI' de OpenAI será disuelto, lo que podría dejar a la empresa sin un departamento de seguridad dedicado. AGI, o inteligencia general artificial, es un paradigma teórico en el que un modelo de IA sería capaz de realizar cualquier tarea que un humano pudiera hacer si se le proporcionaran los mismos recursos.
El equipo de Brundage se centró principalmente en proporcionar sugerencias de políticas y supervisión de seguridad para el desarrollo de la compañía hacia AGI. Su salida fue motivada por el deseo de centrarse en la investigación y la defensa independientes. Citó varias razones para su partida, incluyendo el deseo de 'ser menos sesgado' hacia su entorno corporativo y buscar oportunidades a través del emprendimiento o en otra organización. Brundage declaró: 'Planeo iniciar una nueva organización sin fines de lucro (y/o unirme a una organización sin fines de lucro existente) y trabajar en investigación y defensa de políticas de IA. Probablemente haré una mezcla de investigación y defensa, pero los detalles y las proporciones están por determinar.'
El investigador podría no estar desempleado por mucho tiempo, ya que ya ha hecho una conexión comercial potencial con Brendan McCord, fundador y director del Cosmos Institute, una organización dedicada a desarrollar tecnología con un enfoque humanista. La importancia de la salida de Brundage de OpenAI sigue siendo incierta. Cointelegraph se puso en contacto con OpenAI y recibió la siguiente declaración: 'Apoyamos plenamente la decisión de Miles de seguir su investigación de políticas fuera de la industria y estamos profundamente agradecidos por sus contribuciones. Su plan de dedicarse completamente a la investigación independiente sobre políticas de IA le da la oportunidad de tener un impacto en una escala más amplia, y estamos emocionados de aprender de su trabajo y seguir su impacto. Estamos seguros de que en su nuevo rol, Miles continuará elevando el estándar de calidad en la formulación de políticas en la industria y el gobierno.'
La compañía se negó a responder a las preguntas de Cointelegraph sobre el futuro del equipo de Preparación para AGI. Antes de la creación del equipo de Preparación para AGI, el departamento principal de supervisión de AGI de la compañía era el equipo de 'Superalineación', co-dirigido por los cofundadores de la empresa Ilya Sutskever y Jan Leike. Ese equipo fue disuelto después de que Leike dejó la compañía en mayo, alegando que había alcanzado su 'punto de quiebre' tras desacuerdos con la dirección. Sutskever renunció a la empresa el mes siguiente y desde entonces ha fundado su propia empresa de inteligencia artificial competidora, ya valorada en aproximadamente 5 mil millones de dólares. OpenAI ya había perdido al cofundador y científico principal Andrej Karpathy en ese momento, quien había salido para iniciar su propia empresa en febrero. Otro cofundador, John Schulman, se retiró en agosto para unirse a la competidora Anthropic. Mientras tanto, se informa que la ex directora de tecnología Mira Murati está recaudando fondos para iniciar una empresa de inteligencia artificial competidora también.