Según BlockBeats, expertos de los sectores de agentes de inteligencia artificial, alineación de seguridad, propiedad intelectual y cumplimiento normativo se reunieron en el foro AI Apex Asia Capital Connect para debatir el complejo entorno al que se enfrentan las empresas de inteligencia artificial que se preparan para una oferta pública inicial (IPO). La mesa redonda, moderada por James Liu, director internacional de Alibaba Cloud, brindó información crucial sobre el cambiante panorama regulatorio y las estrategias exitosas para abordarlo.
Los puntos clave de debate incluyeron los desafíos sin precedentes que enfrentan las empresas de IA en relación con la privacidad de los datos, la protección de la propiedad intelectual y el cumplimiento normativo cuando se preparan para una oferta pública inicial. El rápido ritmo de la innovación en IA a menudo supera el desarrollo de marcos regulatorios, lo que requiere una gestión proactiva de los riesgos y una comunicación eficaz con las partes interesadas. La colaboración entre las empresas de IA y los organismos reguladores es esencial para desarrollar marcos que fomenten la innovación al tiempo que protegen los intereses públicos. La Ley de IA de la UE representa un cambio significativo en la regulación de la IA, con implicaciones globales para las empresas que operan o venden productos en el mercado europeo. La tecnología deepfake plantea riesgos sustanciales para los derechos de autor y la protección de la identidad, lo que requiere una combinación de soluciones técnicas y regulatorias.
El profesor Liu Yang, cofundador de AgentLayer, destacó la naturaleza cambiante de los riesgos de seguridad de la IA y propuso una solución innovadora: “Al utilizar cualquier solución de IA, es fundamental comprender los nuevos ataques potenciales. Por ejemplo, hemos visto avances en fugas de modelos de IA que pueden eludir los mecanismos de defensa existentes con una tasa de éxito del 100 %. Esto presenta desafíos significativos para cualquier solución de IA que desarrollemos”. Liu explicó con más detalle un enfoque novedoso para abordar estos desafíos: “Mejorar los LLM con modelos basados en agentes como validadores y administradores se adapta a las complejidades dentro de las empresas al tiempo que se centra en la creación de validadores y administradores de LLM automatizados. En lugar de simplemente considerar si los LLM son seguros para las empresas, el uso de agentes de IA especialmente diseñados para validar y administrar todas las interacciones de LLM puede ayudar a garantizar resultados seguros, incluso si los LLM subyacentes en sí no son seguros”.
Hsu Li-Chuan, socio de Dentons Rodyk, destacó la importancia de una comunicación clara con los reguladores e inversores: “El desafío de la IA radica en su cobertura de numerosas áreas regulatorias, a diferencia del comercio electrónico o incluso la tecnología blockchain. La IA puede involucrar dominios regulatorios, de cumplimiento y éticos más amplios. Debemos tener esto en cuenta durante cualquier actividad de recaudación de fondos en el mercado público”. Yang Jingwei, director de Tecnología de Seguridad en Ant Group, destacó la necesidad de soluciones técnicas sólidas: “Para la seguridad de los datos, tengo tres recomendaciones: establecer una gobernanza de datos muy sólida, tener políticas y estandarización estrictas, ser muy cuidadoso con la transmisión de datos y mantener la transparencia en el uso de los datos. Para la propiedad intelectual, consulte a expertos en propiedad intelectual, busque protección de patentes y tenga contratos claros de propiedad intelectual”.
El moderador James Liu concluyó: “Los puntos clave son que la comunicación con los inversores, el público y los reguladores es crucial durante los períodos previos y posteriores a la salida a bolsa. Dado el rápido ritmo del desarrollo tecnológico que a menudo supera la regulación, la autorregulación y los marcos son particularmente importantes. Como sugirió el profesor Liu, el uso de agentes de IA diseñados específicamente para mejorar los LLM representa una dirección prometedora para abordar los problemas actuales de seguridad y protección de la industria de la IA”.
Los expertos coincidieron unánimemente en que, a medida que la IA evoluciona rápidamente, las empresas deben mantenerse a la vanguardia de las cuestiones de gobernanza para completar con éxito el proceso de salida a bolsa y mantener la confianza del público. El diálogo permanente entre la industria, el mundo académico y los organismos reguladores desempeñará un papel clave en la configuración de enfoques equilibrados de gobernanza de la IA, mientras que las tecnologías emergentes, como los agentes de IA, serán fundamentales para garantizar la implementación segura y eficaz de los sistemas de IA.
