英国人工智能（AI）安全研究所将在美国设立新机构，拓展国际业务。
5月20日，英国科技大臣米歇尔·多尼兰宣布，该研究所将于今年夏天在旧金山开设首个海外办事处。
公告称，选择在旧金山设立办事处的战略性将使英国能够“充分利用湾区的丰富科技人才资源”，同时还能与位于伦敦和旧金山之间的全球最大的人工智能实验室之一进行合作。
此外，它表示此举将有助于其“巩固”与美国主要参与者的关系，以“为了公众利益”推动全球人工智能安全。
人工智能安全研究所伦敦分部目前已拥有 30 人的团队，该团队正在不断扩大规模并获得更多专业知识，特别是在前沿人工智能模型的风险评估领域。
多尼兰表示，此次扩张代表了英国在人工智能安全方面的领导力和愿景。
“这是英国从全球视角研究人工智能的风险和潜力的关键时刻，这将加强我们与美国的伙伴关系，并为其他国家利用我们的专业知识铺平道路，让我们继续在人工智能安全方面引领世界。”
此前，英国具有里程碑意义的人工智能安全峰会于 2023 年 11 月在伦敦举行。该峰会是全球范围内首次关注人工智能安全的峰会。
相关：微软因 Bing AI 在欧盟面临数十亿美元罚款
此次活动吸引了来自美国和中国等世界各地的领导人参加，以及人工智能领域的领军人物，包括微软总裁布拉德·史密斯、OpenAI 首席执行官萨姆·奥特曼、谷歌和 DeepMind 首席执行官德米斯·哈萨比斯和埃隆·马斯克。
英国在最新声明中表示，还将发布该研究所对五种公开的先进人工智能模型进行安全测试的最新结果。
它对这些模型进行了匿名化，并表示结果提供了模型功能的“快照”，而不是将其指定为“安全”或“不安全”。
研究结果显示，一些模型可以完成网络安全挑战，但其他一些模型在更高级的挑战中却举步维艰。研究发现，一些模型拥有博士级别的化学和生物学知识。
研究得出的结论是，所有测试模型都“极易”受到基本越狱的攻击，并且测试模型在没有人工监督的情况下无法完成更“复杂、耗时的任务”。
该研究所主席伊恩·霍吉斯（Ian Hogearth）表示，这些评估将有助于对模型能力进行实证评估。
“人工智能安全仍是一个非常年轻和新兴的领域。这些结果仅代表了 AISI 正在开发的评估方法的一小部分。”
杂志：科幻作家戴维·布林：让人工智能互相攻击，防止人工智能末日来临
