Secretario de Comercio de EE. UU.: Instituciones como OpenAI colaboran con el Instituto de Seguridad de IA de EE. UU. para llevar a cabo pruebas voluntarias de predespliegue de modelos de IA

La Secretaria de Comercio de EE. UU., Raimondo, declaró que el Instituto de Seguridad de Inteligencia Artificial de EE. UU. colabora con OpenAI y Anthropic para llevar a cabo pruebas voluntarias de predespliegue de modelos de inteligencia artificial, y con el Instituto de Seguridad del Reino Unido para lanzar la primera prueba de predespliegue de modelos de inteligencia artificial avanzada conjunta del gobierno. Este instituto tiene como objetivo apoyar los esfuerzos de seguridad de la industria sin obstaculizar el progreso. La organización enfatiza la necesidad de asegurar que la inteligencia artificial sirva a la humanidad y aborde la amenaza del desempleo generalizado. Raimondo ha afirmado anteriormente que la tecnología de inteligencia artificial es sin precedentes en la historia y tiene un potencial significativo para perturbar el mercado laboral. Los gobiernos de los países deben garantizar la seguridad de los sistemas de inteligencia artificial antes de su lanzamiento, subrayando la necesidad de realizar pruebas y evaluaciones rigurosas. Establecer mejores prácticas internacionales de seguridad en inteligencia artificial es una prioridad. En el último año, se ha avanzado en la promoción de la seguridad de la inteligencia artificial, y ahora se han establecido iniciativas relacionadas que no existían anteriormente. La red internacional de institutos de seguridad de inteligencia artificial cuenta actualmente con 10 miembros, y se planea aumentar el número en el futuro. El Instituto de Seguridad de Inteligencia Artificial del Departamento de Comercio de EE. UU. se centra en identificar los riesgos de seguridad nacional y pública asociados con la inteligencia artificial. Un equipo de científicos e ingenieros está desarrollando métodos avanzados para pruebas antes y después del despliegue de modelos de inteligencia artificial. El instituto enfatiza la excelencia científica en lugar de actuar como un organismo regulador. Su objetivo es asegurar que el trabajo del gobierno en inteligencia artificial sea tanto inteligente como de vanguardia, y esté guiado por la ciencia. (Jin Shi)