Правительство Великобритании объявило о планах открыть этим летом первый зарубежный офис своего Института безопасности искусственного интеллекта в США.
Читайте также: Роль Соглашения о безопасности ИИ между Великобританией и США в технологической эволюции
В заявлении, опубликованном в понедельник, министр науки и технологий Великобритании Мишель Донелан сообщила, что новый офис в США будет расположен в Сан-Франциско. В городе расположены крупнейшие компании в области искусственного интеллекта, в том числе OpenAI, Anthropic и Inflection AI.
Великобритания стремится укрепить партнерство с США в области безопасности искусственного интеллекта
Американский офис будет стремиться нанять команду технического персонала во главе с директором по исследованиям, когда он начнет свою работу позднее в этом году. В штаб-квартире Института в Лондоне в настоящее время работает команда из более чем 30 технических сотрудников.
Технический секретарь заявил, что расширение института представляет собой британское лидерство в области искусственного интеллекта и позволит установить тесное сотрудничество с правительством США.
Это поворотный момент в способности Великобритании изучать как риски, так и потенциал ИИ с глобальной точки зрения, укрепляя наше партнерство с США и открывая путь другим странам к использованию нашего опыта, поскольку мы продолжаем лидировать в мире в области ИИ. безопасность.
Мишель Донелан, министр науки и технологий Великобритании.
Донелан говорит, что институт вырос из «силы в силу»
Правительство Великобритании учредило Институт безопасности ИИ в ноябре 2023 года. В нем заявили, что цель состоит в том, чтобы «свести к минимуму сюрпризы для Великобритании и человечества в результате быстрого и неожиданного прогресса в области ИИ».
Читайте также: Правительство Великобритании объявляет о создании Института безопасности искусственного интеллекта
Институт в первую очередь фокусируется на оценке «передовых» систем искусственного интеллекта с точки зрения национальной безопасности. Правительство Великобритании заявило, что благодаря этой мере оно сможет разработать эффективную политику и нормативные меры в отношении приложений искусственного интеллекта, развернутых в пределах его юрисдикции.
С тех пор, как мы с премьер-министром основали Институт безопасности искусственного интеллекта, он стал сильнее и сильнее всего за год.
Мишель Донелан, министр науки и технологий Великобритании.
Институт публикует результаты модельных испытаний
Британский институт безопасности искусственного интеллекта, как сообщается, является первой организацией, поддерживаемой правительством, которая опубликовала результаты испытаний безопасности своих моделей искусственного интеллекта. Институт протестировал пять общедоступных больших языковых моделей, названия которых не уточняются.
Безопасность ИИ — все еще очень молодая и развивающаяся область. […] Наша цель — продолжать расширять границы этой области путем разработки современных оценок с упором на риски, связанные с национальной безопасностью.
Ян Хогарт, председатель Британского института безопасности искусственного интеллекта.
В компании заявили, что несколько моделей выполнили задачи по кибербезопасности. Однако все они оказались весьма уязвимыми для базовых «взломов из тюрьмы». Некоторые модели давали вредные результаты даже тогда, когда не было преднамеренных попыток обойти меры безопасности.
Криптополитический репортаж Ибиама Вайаса
