Потенціал штучного інтелекту бути чимось більшим, ніж просто черговим технологічним прогресом, що створює ризики, які ми не можемо ігнорувати.
#VitalikButerin , співзасновник Ethereum, випустив суворе попередження щодо #Artificial_Intelligence (AI).
Він не об’єднує #AI звичайні технологічні досягнення, такі як смартфони чи соціальні мережі. Натомість #Buterin відносить штучний інтелект до окремої категорії через його потенціал революціонізувати суспільство (подібно до друкарського верстата чи колеса).
Поворот? ШІ може перехитрити всіх нас, потенційно ставши домінуючою силою на Землі. Це стрибок у незвідану територію.
Загроза надрозумного ШІ
Занепокоєння Бутеріна виходять за рамки типових страхів щодо технологій. Він попереджає, що надрозумний ШІ може сприймати людей як загрозу, що призведе до катастрофічних наслідків.
І це не проблема віддаленого майбутнього – ШІ стрімко розвивається. Хоча в ідеалі ми хотіли б, щоб ці надрозумні істоти були нашими союзниками, програмування їх на безпечне співіснування з людьми — це завдання, яке ми ще не вирішили. Це може звучати як наукова фантастика, але до цієї теми в технічних колах ставляться серйозно. Роб Бенсінгер з MIRI ілюструє різні думки щодо рівня загрози ШІ.
Опитування експертів з машинного навчання у 2022 році стало вражаючим відкриттям, яке показало, що ймовірність ШІ призвести до вимирання людства становить 5-10%.
Незважаючи на те, що це звучить спекулятивно, ці побоювання існують уже більше десяти років і заслуговують на увагу.
Уявлення про майбутнє з ШІ
Бутерін також запрошує нас подумати про те, яким було б життя у світі, яким керує ШІ. Він посилається на серію «Культура» Ієна Бенкса, де люди співіснують із потужним ШІ.
Це уявне майбутнє пропонує довголіття, здоров’я та розваги, але за потенційну ціну – люди можуть не контролювати ситуацію.
Це спонукає до критичного питання щодо нашого майбутнього співіснування з ШІ: чи будемо ми партнерами чи просто пасажирами у світі, керованому машинним інтелектом?
