Los legisladores de todo Estados Unidos están desarrollando regulaciones para controlar el desarrollo y despliegue de modelos avanzados de inteligencia artificial, informó Cointelegraph.
Anthropic, desarrollador de inteligencia artificial, apoya el proyecto de ley propuesto por el senador de California Scott Wiener, diciendo que "los beneficios pueden superar los costos".
El director ejecutivo de Anthropic, Dario Amodei, dijo en una carta del 21 de agosto al gobernador de California, Gavin Newson, que el proyecto de ley del Senado 1047 (SB 1047) ha sido "significativamente mejorado", pero todavía hay algunos aspectos que son "preocupantes o poco claros".
Wiener propuso la SB 1047 en febrero de 2024 para estandarizar las pruebas de seguridad de modelos de IA de última generación cuyo desarrollo costó más de 100 millones de dólares o que requieren una potencia informática significativa.
Según el proyecto de ley de Wiener, los desarrolladores de software de inteligencia artificial de California deberían proporcionar una forma de apagar los modelos en caso de emergencia, lo que se conoce como "interruptor de apagado". Además, el proyecto de ley otorga al fiscal general del estado la autoridad para emprender acciones legales contra los desarrolladores que no cumplan.
El proyecto de ley fue modificado recientemente para incluir la eliminación de la creación de una junta de supervisión de la IA dirigida por el gobierno en respuesta a las quejas de las grandes empresas tecnológicas.
El 22 de agosto, Wiener respondió a la carta de objeción de OpenAI al gobernador Newsom, calificando sus preocupaciones de “infundadas”. Dijo que el proyecto de ley era crucial para salvaguardar la seguridad pública y la seguridad nacional.
Además de OpenAI, Google y Meta de Alphabet también han expresado su preocupación por el proyecto de ley. Meta cree que el proyecto de ley puede hacer que California sea menos favorable al desarrollo y despliegue de la IA.