Быстрое распространение технологий искусственного интеллекта делает угрозу полномасштабной ядерной войны более вероятной, предупредил генеральный секретарь ООН Антониу Гутерриш. В записанном видео Гутерриш сказал, что человечество сидит «на острие ножа», поскольку страны спешат создать самое мощное оружие, подвергая жизни людей опасности.

Читайте также: Сотрудники утверждают, что OpenAI и Google DeepMind скрывают риски ИИ

Предостерегающее видеообращение главы ООН должно было быть показано на ежегодной конференции Ассоциации по контролю над вооружениями США (ACA) в Вашингтоне 7 июня, сообщает Guardian. Гутерриш призвал государства, обладающие ядерным оружием, «возобновить диалог и согласиться с тем, что ни одна из них не начнет его первой».

Гутерриш хочет, чтобы ИИ отказался от ядерного оружия

По словам генерального секретаря, системы, созданные для предотвращения «применения, испытаний и распространения ядерного оружия», ослабли после окончания «холодной войны» более 30 лет назад.

Есть опасения, что по мере того, как такие страны, как США и Россия, активизируют действия по сдерживанию друг друга, они могут обратиться к искусственному интеллекту для облегчения процедур запуска ядерного оружия. Сообщается, что обе страны имеют свои межконтинентальные баллистические ракеты в состоянии повышенной боеготовности, то есть они готовы к запуску с предупреждением за несколько минут.

В своем видеообращении к ACA Гутерриш сказал:

«Человечество находится на острие ножа; Риск применения ядерного оружия достиг высот, невиданных со времен холодной войны. Государства вовлечены в качественную гонку вооружений. Такие технологии, как искусственный интеллект, умножают опасность».

Гутерриш добавил, что «все страны должны согласиться с тем, что любое решение об использовании ядерного оружия принимается людьми, а не машинами или алгоритмами».

В 2022 году США, Великобритания и Франция опубликовали совместное заявление, в котором выразили свою приверженность обеспечению того, чтобы люди сохраняли контроль во время ядерных запусков. По данным отраслевых СМИ, Россия и Китай пока не взяли на себя аналогичные обязательства. По оценкам Федерации американских ученых, количество ядерных вооружений сократилось с 70 300 в 1986 году до 12 100 в этом году.

Ученые бьют тревогу по поводу искусственного интеллекта

Предупреждение Гутерриша не ново. Многие учёные в прошлом предупреждали об опасностях искусственного интеллекта. В отчете корпорации Rand за 2018 год говорится, что развитие ИИ увеличивает риск ядерной войны. В докладе говорится, что интеграция искусственного интеллекта, машинного обучения и анализа больших данных улучшит способность военных обнаруживать, отслеживать, нацеливать и уничтожать силы ядерного сдерживания противника.

Читайте также: Мощный ИИ угрожает человечеству: Почему эксперты настаивают на глобальном моратории

Другие также включились в дискуссию. По мнению бывшего руководителя продукта Google Билавала Сидху, дебаты об искусственном интеллекте можно либо рассматривать как ядерные, либо оставить открытыми. Он утверждал, что ИИ с открытым исходным кодом позволит хорошим участникам контролировать плохих, сводя к минимуму риски.

В предыдущем интервью Newsweek бывший госсекретарь США Генри Киссинджер сказал, что ИИ «столь же значим», но «менее предсказуем», чем ядерное оружие. Киссинджер считает, что рисками ИИ можно управлять посредством международного сотрудничества и регулирования.

Криптополитический репортаж Джеффри Гого