En un futuro próximo, los usuarios de aplicaciones de IA generativa podrían encontrar etiquetas que describan claramente cómo se debe utilizar la IA, sus riesgos asociados y su proceso de prueba. Siguiendo las nuevas directrices, las etiquetas serán obligatorias para que la tecnología sea más fácil de entender para las masas.
Lea también: La Unión Europea (UE) toma la iniciativa en la regulación de la IA
La Ministra de Comunicaciones e Información de Singapur, Josephine Teo, dijo que la nueva medida es un esfuerzo por definir un estándar de transparencia y pruebas para las empresas de tecnología. Ella habló en la conferencia tecnológica sobre protección de datos personales el 15 de julio, según un informe de Strait Times.
Los desarrolladores de aplicaciones de IA deberían ser transparentes sobre sus innovaciones
Al igual que la práctica de cómo los medicamentos o electrodomésticos llevan etiquetas de seguridad, en la misma práctica, los desarrolladores de aplicaciones de IA generativa deben ser claros al informar a los usuarios sobre el uso y desarrollo del modelo de IA. La señora Teo, que también es Ministra responsable de la iniciativa Smart Nation y Ciberseguridad, dijo:
"Recomendaremos que los desarrolladores e implementadores sean transparentes con los usuarios proporcionando información sobre cómo funcionan los modelos y aplicaciones de IA generativa".
Al explicar las próximas reglas, el ministro dijo que son las mismas que cuando un usuario abre una "caja de medicamentos sin receta". Encuentran una hoja de papel que indica claramente cómo se debe usar el medicamento y los posibles “efectos secundarios que puede enfrentar”.
Teo afirmó que "este nivel de transparencia" es necesario para los sistemas de IA que se basan en una inteligencia artificial generativa. El nuevo conjunto de reglas definirá puntos de referencia de seguridad que deben practicarse antes de que un modelo de IA esté disponible para el público.
La guía sobre la anonimización de datos se publicará en 2025
La inteligencia artificial generativa es un género de IA que es capaz de generar nuevos textos e imágenes y no es tan predecible como la IA tradicional. Según las nuevas directrices, los creadores deberán mencionar los riesgos de difundir mentiras, comentarios hostiles y narrativas sesgadas en el contenido.
Teo dijo que los electrodomésticos vienen con etiquetas que dicen claramente que el artículo está siendo probado para su uso seguro; de lo contrario, el cliente no sabrá si el aparato es seguro o no. Lo mismo se practicará para las aplicaciones de IA. La Autoridad de Desarrollo de Medios de Infocomm (IMDA) de Singapur iniciará una consulta con la industria sobre las nuevas reglas. Sin embargo, Teo no mencionó una fecha para los lineamientos.
IMDA también ha publicado una guía sobre cuestiones tecnológicas relacionadas con la privacidad, que atenderá la creciente demanda de datos para entrenar modelos de IA y al mismo tiempo protegerá la privacidad de los usuarios, dijo Teo.
Lea también: Mesa redonda demócrata acogerá a Mark Cuban y Brad Garlinghouse para discutir las regulaciones criptográficas
Denise Wong, subdirectora ejecutiva de IMDA, dijo: Mantener los datos seguros en la IA generativa es más desafiante para la industria. Ella dio su opinión en un panel de discusión separado sobre IA y privacidad de datos durante el evento. Representantes de diferentes empresas de tecnología formaron parte del panel, incluido el fabricante de ChatGPT OpenAI y la consultora Accenture.
Deben existir barreras de protección de datos en todas las etapas del desarrollo y despliegue de la IA, dijo la jefa legal de privacidad de OpenAI, Jessica Gan Lee. Dijo que los modelos de IA deberían entrenarse con diversos conjuntos de datos de "todos los rincones del mundo". Lee enfatizó que se deben incluir múltiples culturas, idiomas y fuentes en la capacitación en IA, además de encontrar formas de limitar el procesamiento de datos personales.
Teo dijo que a principios de 2025 se presentará una guía sobre anonimización de datos para las empresas que operan en la ASEAN. La guía será el resultado de una reunión en febrero entre funcionarios regionales que exploraron formas de crear un ecosistema digital global seguro.
