El cofundador de Ethereum, Vitalik Butertin, ha compartido su opinión sobre la inteligencia artificial (IA) "superinteligente", calificándola de "arriesgada" en respuesta a los cambios de liderazgo en curso en OpenAI.
El 19 de mayo, Cointelegraph informó que el exjefe de alineación de OpenAI, Jan Leike, renunció después de decir que había llegado a un "punto de ruptura" con la gerencia sobre las prioridades centrales de la compañía.
Leike alegó que “la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos brillantes” en OpenAI, y muchos apuntan hacia desarrollos en torno a la inteligencia artificial general (AGI).
Se prevé que la AGI sea un tipo de IA igual o superior a las capacidades cognitivas humanas, idea que ya ha comenzado a preocupar a los expertos de la industria, quienes dicen que el mundo no está adecuadamente equipado para gestionar sistemas de IA tan superinteligentes.
Este sentimiento parece alinearse con las opiniones de Buterin. En una publicación en X, compartió sus pensamientos actuales sobre el tema, enfatizando que no debemos apresurarnos a actuar ni rechazar a quienes lo intentan.
Fuente: Vitalik Buterin
Buterin destacó los modelos abiertos que se ejecutan en hardware de consumo como una “protección” contra un futuro en el que un pequeño conglomerado de empresas podría luego leer y mediar en la mayor parte del pensamiento humano.
"Estos modelos también son mucho más bajos en términos de riesgo de catástrofe que la megalomanía corporativa y los militares".
Este es su segundo comentario en la última semana sobre la IA y sus crecientes capacidades.
El 16 de mayo, argumentó que el modelo GPT-4 de OpenAI ya superó la prueba de Turing, que determina la "humanidad" de un modelo de IA. Citó una nueva investigación que afirma que la mayoría de los humanos no pueden descifrar cuando hablan con una máquina.
Relacionado: La nueva función de recuperación 'Black Mirror' de Microsoft registra todo lo que haces
Sin embargo, Buterin no es el primero en expresar esta preocupación. El gobierno del Reino Unido también ha examinado recientemente la creciente participación de las Big Tech en el sector de la IA, planteando cuestiones relacionadas con la competencia y el dominio del mercado.
Grupos como 6079 AI ya están surgiendo en Internet, abogando por una IA descentralizada para garantizar que siga estando más democratizada y no dominada por las grandes tecnologías.
Fuente: 6079.ai
Esto sigue a la salida de otro miembro de alto rango del equipo de liderazgo de OpenAI el 14 de mayo, cuando Ilya Sutskever, cofundador y científico jefe, anunció su renuncia.
Sutskever no mencionó ninguna preocupación sobre AGI. Sin embargo, en su publicación en X, expresó su confianza en que OpenAI desarrollará una AGI que sea "segura y beneficiosa".
Revista: 'Sic AI entre sí' para prevenir el apocalipsis de la IA: David Brin, autor de ciencia ficción
