英國人工智能（AI）安全研究所將在美國設立新機構，拓展國際業務。
5月20日，英國科技大臣米歇爾·多尼蘭宣佈，該研究所將於今年夏天在舊金山開設首個海外辦事處。
公告稱，選擇在舊金山設立辦事處的戰略性將使英國能夠“充分利用灣區的豐富科技人才資源”，同時還能與位於倫敦和舊金山之間的全球最大的人工智能實驗室之一進行合作。
此外，它表示此舉將有助於其“鞏固”與美國主要參與者的關係，以“爲了公衆利益”推動全球人工智能安全。
人工智能安全研究所倫敦分部目前已擁有 30 人的團隊，該團隊正在不斷擴大規模並獲得更多專業知識，特別是在前沿人工智能模型的風險評估領域。
多尼蘭表示，此次擴張代表了英國在人工智能安全方面的領導力和願景。
“這是英國從全球視角研究人工智能的風險和潛力的關鍵時刻，這將加強我們與美國的夥伴關係，併爲其他國家利用我們的專業知識鋪平道路，讓我們繼續在人工智能安全方面引領世界。”
此前，英國具有里程碑意義的人工智能安全峯會於 2023 年 11 月在倫敦舉行。該峯會是全球範圍內首次關注人工智能安全的峯會。
相關：微軟因 Bing AI 在歐盟面臨數十億美元罰款
此次活動吸引了來自美國和中國等世界各地的領導人蔘加，以及人工智能領域的領軍人物，包括微軟總裁布拉德·史密斯、OpenAI 首席執行官薩姆·奧特曼、谷歌和 DeepMind 首席執行官德米斯·哈薩比斯和埃隆·馬斯克。
英國在最新聲明中表示，還將發佈該研究所對五種公開的先進人工智能模型進行安全測試的最新結果。
它對這些模型進行了匿名化，並表示結果提供了模型功能的“快照”，而不是將其指定爲“安全”或“不安全”。
研究結果顯示，一些模型可以完成網絡安全挑戰，但其他一些模型在更高級的挑戰中卻舉步維艱。研究發現，一些模型擁有博士級別的化學和生物學知識。
研究得出的結論是，所有測試模型都“極易”受到基本越獄的攻擊，並且測試模型在沒有人工監督的情況下無法完成更“複雜、耗時的任務”。
該研究所主席伊恩·霍吉斯（Ian Hogearth）表示，這些評估將有助於對模型能力進行實證評估。
“人工智能安全仍是一個非常年輕和新興的領域。這些結果僅代表了 AISI 正在開發的評估方法的一小部分。”
雜誌：科幻作家戴維·布林：讓人工智能互相攻擊，防止人工智能末日來臨
