Генеральний секретар ООН Антоніу Гутерріш попередив, що швидке поширення технології штучного інтелекту підвищує ймовірність загрози тотальної ядерної війни. У записаному відео Гутерріш сказав, що людство сидить «на вістрі ножа», оскільки країни намагаються створити найпотужнішу зброю, що наражає життя на небезпеку.

Читайте також: Співробітники стверджують, що OpenAI і Google DeepMind приховують ризики ШІ

Застережливе відеозвернення глави ООН мало бути відтворено на щорічній конференції Асоціації контролю над озброєннями США (ACA) у Вашингтоні 7 червня, повідомляє Guardian. Гутерріш благав держави, які мають ядерну зброю, «відновити діалог і погодитися, що жодна з них не запустить його першою».

Гутерріш хоче, щоб штучний інтелект подалі від ядерної зброї

За словами генерального секретаря, системи, створені для запобігання «використання, випробувань і розповсюдження ядерної зброї», ослабли після закінчення холодної війни більше 30 років тому.

Існують побоювання, що коли такі країни, як США та Росія, активізують дії для стримування одна одної, вони можуть звернутися до штучного інтелекту, щоб полегшити процедури запуску ядерної зброї. Повідомляється, що міжконтинентальні балістичні ракети обох країн перебувають у стані підвищеної готовності, тобто вони готові до запуску за кілька хвилин.

У своєму відеозверненні до ACA Гутерреш сказав:

«Людство на вістрі ножа; Ризик застосування ядерної зброї досяг небачених з часів холодної війни висот. Держави ведуть якісну гонку озброєнь. Такі технології, як штучний інтелект, посилюють небезпеку».

Гутерріш додав, що «всі країни повинні погодитися з тим, що будь-яке рішення про використання ядерної зброї приймається людьми, а не машинами чи алгоритмами».

У 2022 році США, Велика Британія та Франція виступили зі спільною заявою, в якій висловили свою прихильність забезпеченню контролю за людьми під час ядерних запусків. За даними галузевих ЗМІ, Росія та Китай поки що не брали подібних зобов’язань. За оцінками Федерації американських вчених, кількість ядерної зброї впала з 70 300 у 1986 році до 12 100 цього року.

Вчені б'ють тривогу щодо ШІ

Попередження Гутерріша не є новим. Раніше багато вчених попереджали про небезпеку штучного інтелекту. У звіті Rand Corporation за 2018 рік говориться, що розробка ШІ збільшує ризик ядерної війни. У звіті говориться, що інтеграція штучного інтелекту, машинного навчання та аналітики великих даних покращить здатність військових визначати місцезнаходження, відстежувати, націлюватися та знищувати сили ядерного стримування суперника.

Читайте також: Потужний ШІ загрожує людству: чому експерти наполягають на глобальному мораторії

Інші також брали участь у дискусії. Для колишнього керівника продукту Google Білалава Сідху дебати про штучний інтелект можна або розглядати як ядерну, або залишити відкритими. Він стверджував, що штучний інтелект з відкритим кодом дозволить хорошим акторам стежити за поганими, мінімізуючи ризики.

У попередньому інтерв’ю Newsweek колишній держсекретар США Генрі Кіссінджер сказав, що штучний інтелект «так само значний», але «менш передбачуваний», ніж ядерна зброя. Кіссінджер вважає, що ризиками штучного інтелекту можна керувати шляхом міжнародної співпраці та регулювання.

Репортаж Cryptopolitan Джеффрі Гого