De acordo com a BlockBeats, especialistas dos setores de AI Agent, alinhamento de segurança, propriedade intelectual e conformidade se reuniram no AI Apex Asia Capital Connect Forum para discutir o ambiente intrincado enfrentado por empresas de IA que se preparam para uma oferta pública inicial (IPO). A mesa redonda, moderada por James Liu, Diretor Internacional da Alibaba Cloud, forneceu insights cruciais sobre o cenário regulatório em evolução e estratégias bem-sucedidas para navegá-lo.
Os principais pontos de discussão incluíram os desafios sem precedentes que as empresas de IA enfrentam em relação à privacidade de dados, proteção de propriedade intelectual e conformidade regulatória ao se preparar para um IPO. O ritmo rápido da inovação em IA geralmente ultrapassa o desenvolvimento de estruturas regulatórias, exigindo gerenciamento de risco proativo e comunicação eficaz com as partes interessadas. A colaboração entre empresas de IA e órgãos reguladores é essencial para desenvolver estruturas que promovam a inovação enquanto protegem os interesses públicos. O EU AI Act representa uma mudança significativa na regulamentação de IA, com implicações globais para empresas que operam ou vendem produtos no mercado europeu. A tecnologia deepfake representa riscos substanciais para direitos autorais e proteção de identidade, exigindo uma combinação de soluções técnicas e regulatórias.
O professor Liu Yang, cofundador da AgentLayer, destacou a natureza evolutiva dos riscos de segurança de IA e propôs uma solução inovadora: “Ao usar qualquer solução de IA, é crucial entender novos ataques em potencial. Por exemplo, vimos avanços em jailbreaks de modelos de IA que podem ignorar mecanismos de defesa existentes com uma taxa de sucesso de 100%. Isso apresenta desafios significativos para qualquer solução de IA que desenvolvemos.” Liu elaborou ainda mais uma nova abordagem para lidar com esses desafios: “Aprimorar LLMs com modelos baseados em agentes como validadores e gerentes se adapta às complexidades dentro das empresas, ao mesmo tempo em que se concentra na criação de validadores e gerentes de LLM automatizados. Em vez de apenas considerar se os LLMs são seguros para as empresas, usar agentes de IA especialmente desenvolvidos para validar e gerenciar todas as interações de LLM pode ajudar a garantir resultados seguros, mesmo que os próprios LLMs subjacentes não sejam seguros.”
Hsu Li-Chuan, um sócio da Dentons Rodyk, enfatizou a importância da comunicação clara com reguladores e investidores: “O desafio da IA está na sua cobertura de inúmeras áreas regulatórias, diferentemente do comércio eletrônico ou mesmo da tecnologia blockchain. A IA pode envolver domínios regulatórios, de conformidade e éticos mais amplos. Devemos manter isso em mente durante quaisquer atividades de arrecadação de fundos de mercado público.” Yang Jingwei, Diretor de Tecnologia de Segurança do Ant Group, enfatizou a necessidade de soluções técnicas robustas: “Para a segurança de dados, tenho três recomendações: estabelecer uma governança de dados muito forte, ter políticas e padronização rigorosas, ser muito cuidadoso com a transmissão de dados e manter a transparência no uso de dados. Para propriedade intelectual, consulte especialistas em PI, busque proteção de patentes e tenha contratos claros de propriedade de PI.”
O moderador James Liu concluiu: “Os pontos principais são que a comunicação com investidores, o público e os reguladores é crucial durante os períodos pré e pós-IPO. Dado o ritmo rápido do desenvolvimento tecnológico, muitas vezes ultrapassando a regulamentação, a autorregulamentação e as estruturas são particularmente importantes. Como o professor Liu sugeriu, usar agentes de IA desenvolvidos especificamente para aprimorar os LLMs representa uma direção promissora para abordar os problemas atuais de segurança e proteção do setor de IA.”
Especialistas concordaram unanimemente que, à medida que a IA evolui rapidamente, as empresas devem ficar à frente das questões de governança para concluir com sucesso o processo de IPO e manter a confiança do público. O diálogo contínuo entre a indústria, a academia e os órgãos reguladores desempenhará um papel fundamental na formação de abordagens equilibradas de governança de IA, enquanto tecnologias emergentes como os Agentes de IA serão centrais para garantir a implantação segura e eficaz de sistemas de IA.