ChainCatcher 消息,據 TheVerge 報道,OpenAI 和 Anthropic 同意新 AI 模型向美國政府開放訪問權限,以幫助提升模型安全性。兩家公司已與美國 AI 安全研究所簽署了諒解備忘錄,以便美國政府評估安全風險並緩解潛在問題。美國 AI 安全研究所表示,將與英國對應機構合作,提供有關安全改進的反饋。

據悉,加利福尼亞州近日通過了《前沿人工智能模型安全創新法案》(SB 1047),要求 AI 公司在訓練高級基礎模型前採取特定安全措施,但該法案已引發包括 OpenAI 和 Anthropic 在內的公司反對,認爲此舉可能對小型開源開發者不利。