据 Cointelegraph 报道，人工智能公司 OpenAI 和 Anthropic 最近同意向美国 AI 安全研究所提供其开发的任何“重大”新 AI 模型的早期访问权限。
尽管该协议据称是出于共同的安全考虑签署的，但尚不清楚政府在技术突破具有重大安全影响时的具体角色。
OpenAI CEO 兼联合创始人 Sam Altman 在 X 社交媒体平台上表示，这一协议是必要的一步，并强调美国需要继续在国家层面上领导。
OpenAI 和 Anthropic 都致力于开发通用人工智能（AGI），即能够在人类资源条件下完成任何任务的 AI。两家公司分别有自己的章程和使命，旨在安全地创建以人类利益为核心的 AGI。
通过与美国政府签署协议，在产品发布前披露其模型，两家公司将这一责任上交给联邦政府。
据 Cointelegraph 报道，OpenAI 可能即将取得突破，其“Strawberry”和“Orion”项目据称能够进行高级推理并解决 AI 的幻觉问题。美国政府已经看到了这些工具及其在 ChatGPT 中的早期内部迭代。
美国国家标准与技术研究院的一篇博客文章表明，这项协议和相关的安全指南对参与的公司都是自愿的。支持者认为，这种轻触式监管有助于增长，并允许该行业自我监管。
然而，轻触式监管的潜在问题之一是缺乏透明度。如果 OpenAI 或 Anthropic 成功，而政府认为公众不需要知道，则没有法律要求披露。