Виталик Бутерин, соучредитель Ethereum, недавно изложил некоторые из основных угроз, связанных с искусственным общим интеллектом (AGI).
Это произошло после выхода o3, последней новаторской модели OpenAI, которая вновь разожгла споры о, казалось бы, неизбежном наступлении AGI. Модель смогла набрать 87,5 процента по стандарту ARC-AGI, который был разработан для измерения прогресса к общему интеллекту. Существуют некоторые постоянные опасения, что AGI может угрожать людям после того, как превзойдет их когнитивные способности.
Согласно соучредителю Ethereum, не имеет смысла рассматривать AGI как некую непобедимую абстрактную силу. Вместо этого он рекомендовал рассмотреть некоторые конкретные векторы атаки. Бутерин упомянул такие угрозы, как AGI, использующий уязвимости в программном обеспечении, манипулирующий людьми с помощью дезинформации, выпускающий цифровые биологические агенты, контролирующий физическую инфраструктуру или значительно превосходящий людей по интеллекту.
карта
В недавнем посте в социальных сетях соучредитель Ethereum Виталик Бутерин также высказал мнение, что криптовалюта "это лишь часть большей истории."
Бутерин прикрепил сложную диаграмму, которая показывает, как различные стратегии защиты и роста связаны друг с другом. Структура, предложенная Бутериным, противопоставляет физический "мир атомов" цифровому "миру битов."
карта
Меры биозащиты и киберзащиты предназначены для защиты от биологических и киберугроз соответственно. Также существуют инструменты для обеспечения информационной безопасности и физической устойчивости.
Быстрые улучшения в здравоохранении, а также интерфейсы мозг-компьютер могут значительно увеличить продолжительность жизни.
карта
Дешевое строительство и другие инновации также могут потенциально привести к физическому изобилию.
Согласно канадскому программисту, технология блокчейн, которая лежит в основе криптовалют, вероятно, поможет в вышеупомянутых усилиях в области информационной безопасности и других секторах.