据 BlockBeats 报道，来自 AI Agent、安全协调、知识产权和合规领域的专家齐聚 AI Apex 亚洲资本连接论坛，讨论人工智能公司准备首次公开募股 (IPO) 所面临的复杂环境。圆桌会议由阿里云国际总监 James Liu 主持，就不断变化的监管环境和驾驭它的成功策略提供了重要见解。
讨论的重点包括人工智能公司在准备 IPO 时面临的前所未有的数据隐私、知识产权保护和监管合规挑战。人工智能创新的快速发展往往超过监管框架的发展速度，因此需要积极主动的风险管理和有效的利益相关者沟通。人工智能公司和监管机构之间的合作对于制定促进创新同时保护公共利益的框架至关重要。欧盟人工智能法案代表了人工智能监管的重大转变，对在欧洲市场运营或销售产品的公司具有全球影响。Deepfake 技术对版权和身份保护构成重大风险，需要结合技术和监管解决方案。
AgentLayer 联合创始人刘洋教授强调了人工智能安全风险的不断演变，并提出了创新的解决方案：“在使用任何人工智能解决方案时，了解潜在的新攻击至关重要。例如，我们已经看到人工智能模型越狱的突破，可以 100% 成功率绕过现有的防御机制。这对我们开发的任何人工智能解决方案都提出了重大挑战。”刘教授进一步阐述了应对这些挑战的新方法：“使用基于代理的模型作为验证器和管理器来增强 LLM 可以适应企业内部的复杂性，同时专注于创建自动化的 LLM 验证器和管理器。使用专门构建的人工智能代理来验证和管理所有 LLM 交互，而不是仅仅考虑 LLM 对企业是否安全，可以帮助确保安全的结果，即使底层 LLM 本身并不安全。”
Dentons Rodyk 律师事务所合伙人许立全强调了与监管机构和投资者清晰沟通的重要性：“人工智能的挑战在于它涉及众多监管领域，这与电子商务甚至区块链技术不同。人工智能可能涉及更广泛的监管、合规和道德领域。在任何公开市场融资活动中，我们都必须牢记这一点。”蚂蚁集团安全技术总监杨敬伟强调了强大技术解决方案的必要性：“对于数据安全，我有三点建议：建立非常强大的数据治理，制定严格的政策和标准，非常小心地传输数据，并保持数据使用的透明度。对于知识产权，咨询知识产权专家，寻求专利保护，并签订明确的知识产权所有权合同。”
主持人 James Liu 总结道：“关键点在于，在上市前后，与投资者、公众和监管机构的沟通至关重要。鉴于技术发展速度之快，监管速度往往快于技术发展速度，自我监管和框架尤为重要。正如刘教授所建议的那样，使用专门构建的 AI 代理来增强法学硕士课程代表了解决当前 AI 行业安全问题的一个有希望的方向。”
专家们一致认为，随着人工智能的快速发展，企业必须领先于治理问题，才能顺利完成 IPO 流程并保持公众信任。行业、学术界和监管机构之间的持续对话将在形成平衡的人工智能治理方法方面发挥关键作用，而人工智能代理等新兴技术将是确保人工智能系统安全有效部署的关键。
