英國政府宣佈計劃今年夏天在美國開設其人工智能安全研究所的首個海外辦事處。
另請閱讀：英國和美國人工智能安全協議在技術發展中的作用
英國科技大臣米歇爾·多尼蘭在週一發表的聲明中表示，新的美國辦公室將設在舊金山。這座城市擁有一些最大的人工智能公司，包括 OpenAI、Anthropic 和 Inflection AI。
英國尋求加強與美國在人工智能安全方面的合作
該美國辦事處將於今年晚些時候開始運營，屆時將招募一支由研究主任領導的技術人員團隊。該研究所的倫敦總部目前擁有一支由 30 多名技術人員組成的團隊。
科技大臣表示，研究所的擴建代表了英國在人工智能領域的領導地位，並將與美國政府建立密切的合作。
這是英國從全球視角研究人工智能的風險和潛力的關鍵時刻，這將加強我們與美國的夥伴關係，併爲其他國家利用我們的專業知識鋪平道路，讓我們繼續在人工智能安全領域引領世界。
英國科技大臣米歇爾·多尼蘭。
多內蘭表示，該研究所已“不斷壯大”
英國政府於 2023 年 11 月成立了人工智能安全研究所。該研究所表示，目標是“儘量減少人工智能快速和意外進步給英國和人類帶來的意外”。
另請閱讀：英國政府宣佈成立人工智能安全研究所
該研究所主要從國家安全的角度評估“前沿”人工智能系統。英國政府表示，通過這一措施，它將能夠針對其管轄範圍內部署的人工智能應用制定有效的政策和監管應對措施。
自從我和首相創立人工智能安全研究所以來，僅僅用了一年多的時間，研究所就不斷髮展壯大。
英國科技大臣米歇爾·多尼蘭。
該研究所公佈模型試驗結果
據報道，英國人工智能安全研究所是第一個發佈其人工智能模型安全測試結果的政府支持組織。該研究所測試了五個公開的大型語言模型，但沒有具體說明名稱。
人工智能安全仍是一個非常年輕且新興的領域。[…] 我們的目標是通過開發最先進的評估來繼續推動該領域的發展，重點關注與國家安全相關的風險。
英國人工智能安全研究所主席伊恩·霍加斯（Ian Hogarth）。
該公司表示，有幾款模型完成了網絡安全挑戰。然而，事實證明，它們都極易受到基本的“越獄”攻擊。有些模型甚至在沒有故意嘗試規避安全措施的情況下也產生了有害結果。
Ibiam Wayas 的 Cryptopolitan 報道
