美國商務部長雷蒙多表示,美國人工智能安全研究所與 OpenAI 和 Anthropic 合作,開展人工智能模型的自願預部署測試,並與英國安全研究所合作,發佈了首個聯合政府高級人工智能模型的預部署測試。該研究所旨在支持行業安全努力,而不阻礙進步。該組織強調確保人工智能服務於人類,並應對普遍失業的威脅。 雷蒙多此前表示,人工智能技術在歷史上是前所未有的,具有顯著擾動就業市場的潛力。各國政府必須在人工智能系統發佈之前確保其安全,強調需要進行嚴格的測試和評估。建立國際人工智能安全最佳實踐是當務之急。在過去一年中,在促進人工智能安全方面取得了進展,現在已建立了之前沒有的相關舉措。國際人工智能安全研究所網絡目前有 10 名成員,未來計劃增加更多成員。美國商務部的人工智能安全研究所專注於識別與人工智能相關的國家安全和公共安全風險。一支由科學家和工程師組成的團隊正在開發用於人工智能模型部署前後測試的先進方法。該研究所強調科學卓越,而非作爲監管機構行事。其目標是確保政府的人工智能工作既智能又前沿,並受到科學的指導。(金十)