William Saunders, ex miembro del equipo de superalineación de OpenAI, reveló sus razones para abandonar la organización, haciendo una sorprendente analogía con el hundimiento del R.M.S. Titánico. Después de pasar tres años en OpenAI, Saunders expresó sus preocupaciones en un episodio del podcast del periodista tecnológico Alex Kantrowitz, enfatizando su convicción de que OpenAI podría encaminarse hacia una catástrofe similar al triste viaje que realizó el Titanic en 1912.
Saunders dijo que su trabajo en OpenAI a menudo lo hacía preguntarse si la trayectoria de la compañía coincidía con el trágico colapso del Titanic o el éxito del programa espacial Apolo. Mientras que el Titanic lamentablemente pereció debido a botes salvavidas inadecuados y otras preocupaciones de seguridad desatendidas, el programa Apolo, a pesar de sus dificultades, finalmente tuvo éxito gracias a esfuerzos científicos diligentes.
OpenAI es el Titanic de la IA
“Se trabajó mucho para hacer que el barco fuera seguro y construir compartimentos estancos para que pudieran decir que era insumergible. Pero al mismo tiempo, no había suficientes botes salvavidas para todos”, comentó Saunders, haciendo una analogía directa con las operaciones de OpenAI. Criticó el espíritu de la empresa, que percibía como una prioridad del desarrollo de productos sobre las precauciones de seguridad esenciales.
Saunders describió un entorno en OpenAI donde los empleados que expresaban preocupaciones de seguridad eran marginados y el liderazgo parecía más centrado en las ganancias que en implementar las medidas de seguridad necesarias. “Con el tiempo”, dijo, “empecé a sentir que las decisiones que tomaban los líderes se parecían más a la White Star Line construyendo el Titanic”.
La crítica de Elon Musk a OpenAI
Esta no es la primera vez que OpenAI se enfrenta a disensiones internas. Elon Musk, uno de los cofundadores de OpenAI, presentó recientemente y luego retiró una demanda contra la empresa, alegando que se había desviado de su misión original. Aunque Musk no ha estado involucrado con OpenAI durante años y ahora dirige una empresa de inteligencia artificial competidora, xAI, sus preocupaciones reflejan los sentimientos de Saunders.
De manera similar, la empresa rival de inteligencia artificial Anthropic fue fundada en 2021 por ex empleados de OpenAI que no estaban satisfechos con el enfoque de OpenAI en la confianza y la seguridad. Por otro lado, Ilya Sutskever, otro cofundador distanciado y ex científico jefe, dejó OpenAI en mayo de 2024 para iniciar su propia empresa, expresando confianza en que OpenAI lograría sus objetivos de forma segura.
Iceberg
Con varias salidas de alto perfil y críticas que comparan el camino de OpenAI con el del Titanic, la pregunta apremiante sigue siendo: ¿quién o qué es el iceberg?
Si consideramos a los pasajeros de la analogía del Titanic como toda la humanidad, entonces el iceberg podría representar los riesgos existenciales que plantean los sistemas avanzados de inteligencia artificial como ChatGPT para una sociedad no preparada. La posibilidad de que la IA supere la inteligencia humana sin las salvaguardias adecuadas podría tener consecuencias desastrosas, similares a la falta de botes salvavidas en el Titanic.
La publicación Ex empleado de OpenAI llama a la empresa "Titanic de la IA" apareció por primera vez en Últimas noticias e información sobre blockchain, criptomonedas e inversiones.
