Потенциал искусственного интеллекта может стать чем-то большим, чем просто очередным технологическим достижением, создающим риски, которые мы не можем игнорировать.

#VitalikButerin , соучредитель Ethereum, выступил с резким предупреждением о #Artificial_Intelligence (AI).

Он не объединяет #AI с обычными техническими достижениями, такими как смартфоны или социальные сети. Вместо этого #Buterin помещает ИИ в отдельную категорию из-за его потенциала совершить революцию в обществе (так же, как это сделали печатный станок или колесо).

Поворот? ИИ может перехитрить нас всех и потенциально стать доминирующей силой на Земле. Это прыжок на неизведанную территорию.

Угроза сверхразумного ИИ

Обеспокоенность Бутерина выходит за рамки типичных технических страхов. Он предупреждает, что сверхразумный ИИ может воспринимать людей как угрозу, что приведет к катастрофическим последствиям.

И это не проблема далекого будущего — ИИ быстро развивается. Хотя в идеале мы хотели бы, чтобы эти сверхразумные существа были нашими союзниками, программирование их на безопасное сосуществование с людьми — это задача, которую мы еще не решили. Это может звучать как научная фантастика, но в технических кругах к этой теме относятся серьезно. Роб Бенсингер из MIRI иллюстрирует различные мнения об уровне угроз ИИ.

Поразительным открытием стало исследование, проведенное в 2022 году среди экспертов по машинному обучению, которое показало, что вероятность того, что ИИ приведет к вымиранию человечества, составляет 5–10%.

Несмотря на то, что эти опасения звучат спекулятивно, они существуют уже более десяти лет и заслуживают внимания.

Видя будущее с помощью ИИ

Бутерин также предлагает нам задуматься о том, какой была бы жизнь в мире, которым управляет ИИ. Он ссылается на серию книг Иэна Бэнкса «Культура», где люди сосуществуют с могущественными искусственными интеллектами.

Это воображаемое будущее предлагает долголетие, здоровье и развлечения, но потенциальной ценой — люди могут потерять контроль.

Это поднимает важнейший вопрос о нашем будущем сосуществовании с ИИ: будем ли мы партнерами или просто пассажирами в мире, управляемом машинным интеллектом?