Віталік Бутерін, співзасновник Ethereum, нещодавно окреслив деякі з основних загроз, пов'язаних з штучним загальним інтелектом (AGI).
Це сталося після випуску o3, останньої революційної моделі OpenAI, яка знову розгорнула дебати про, здавалося б, неминучий прихід AGI. Модель змогла набрати 87,5 відсотка на бенчмарку ARC-AGI, який був розроблений для вимірювання прогресу до загального інтелекту. Існують деякі постійні занепокоєння щодо того, що AGI потенційно загрожує людям після перевершення їхніх когнітивних здібностей.
Згідно з співзасновником Ethereum, немає сенсу розглядати AGI як якусь невгамовну абстрактну силу. Натомість він рекомендував звернути увагу на деякі конкретні вектори атаки. Бутерін згадав такі загрози, як використання AGI вразливостей у програмному забезпеченні, маніпуляція людьми за допомогою дезінформації, випуск цифрових біологічних агентів, контроль фізичної інфраструктури або значне перевершення людей у термінах інтелекту.
картка
У нещодавньому пості в соціальних мережах співзасновник Ethereum Віталік Бутерін також висловив думку, що криптовалюта "лише частина більшої історії".
Бутерін прикріпив складну діаграму, яка показує, як різні стратегії захисту та зростання пов’язані між собою. Структура, запропонована Бутеріним, контрастує з фізичним "світом атомів" та цифровим "світом бітів."
картка
Біо-захист та кібер-захист призначені для захисту від біологічних та кіберзагроз відповідно. Існують також інструменти для забезпечення інформаційної безпеки та фізичної стійкості.
Швидкі поліпшення в охороні здоров'я, а також інтерфейси мозок-комп'ютер можуть значно покращити тривалість життя.
картка
Недороге будівництво та інші інновації також можуть потенційно призвести до фізичної достатності.
Згідно з канадським програмістом, технологія блокчейн, яка є основою криптовалют, ймовірно, допоможе у згаданих зусиллях у сфері інформаційної безпеки та інших секторах.