ChainCatcher 消息,据 TheVerge 报道,OpenAI 和 Anthropic 同意新 AI 模型向美国政府开放访问权限,以帮助提升模型安全性。两家公司已与美国 AI 安全研究所签署了谅解备忘录,以便美国政府评估安全风险并缓解潜在问题。美国 AI 安全研究所表示,将与英国对应机构合作,提供有关安全改进的反馈。

据悉,加利福尼亚州近日通过了《前沿人工智能模型安全创新法案》(SB 1047),要求 AI 公司在训练高级基础模型前采取特定安全措施,但该法案已引发包括 OpenAI 和 Anthropic 在内的公司反对,认为此举可能对小型开源开发者不利。