Недавно новейшей моделью OpenAI стала O3, и тема искусственного интеллекта (ИИ) или AGI сейчас все чаще обсуждается, равно как и возможности и угрозы, связанные с ней. Хотя, как сообщается, O3 набрал 87,5% по бенчмарку ARC-AGI, жизненно важному индексу прогресса AGI, O3 технологически улучшен. Тем не менее, параллельно с надеждами, культивируются опасения по поводу рисков AGI, особенно его все более быстрого развития в плане машинного интеллекта.
В посте Дэвиджерарда эфир как средство сбережения защищает Виталик Бутерин, первоначальный основатель Ethereum. Рассказывая о своих идеях в X [ранее Twitter], Бутерин изложил меры по устранению рисков AGI и подчеркнул возможности децентрализации в этой сфере.
Бутерин пишет об особых опасностях AGI
Среди активного крипто-дискурса люди активно вовлекались и обсуждали идеи усовершенствования после недавнего поста Виталика Бутерина. Он отговаривал людей от прекращения работы с AGI как с чем-то неизбежным и аморфным, а скорее призывал людей, инвесторов и организации рассмотреть и попытаться устранить конкретные угрозы.
Среди этих рисков Виталик Бутерин отметил:
1. Злонамеренное использование дефектов открытого программного обеспечения. Системы AGI могут использовать уязвимости в программных системах, вызывая серьезные кризисы.
2. Тем не менее, Бутерин предположил, что использование ИИ для воздействия на людей определенно может обмануть их, публикуя большие объемы фейковых новостей.
3. Физические угрозы: AGI может задействовать цифровые биологические агенты или захватить физические узлы, которые важны для жизненного цикла. Следовательно, связанные с этим риски ужасают.
В своем посте Виталик Бутерин утверждал:
«Было бы гораздо разумнее работать над конкретными стратегиями атаки, а не над общей концепцией AGI как злого гения».
Эта точка зрения противоречит общепринятому мнению о том, что создание ОИИ гарантировано и необратимо, и предупреждает о конкретных угрозах.
Может ли децентрализация стать ответом?
Видение Виталика Бутерина о том, как противостоять угрозам AGI, предполагает ускоренную децентрализацию, особенно в области ИИ и криптографии. Централизованные системы, сказал он, опасны, поскольку они централизуют власть и ресурсы в руках нескольких игроков.
Он подчеркнул риски централизованного контроля, заявив:
«Самостоятельное хранение не является общепринятой нормой в нынешней экосистеме криптовалют, и это также делает ее более уязвимой для атак и сбоев».
Это справедливо для систем ИИ, где централизация увеличивает масштаб угроз, которые могут включать несанкционированный доступ к ИИ или неправильное использование связанных возможностей. Бутерин нарисовал картину либеральной архитектуры, где пользователи контролируют через самовладение, чтобы минимизировать посредников, таких как биржи.
Среди них один из них — искусственный Интернет вещей, где закрытые ключи откроют полный контроль доступа к интеллектуальным устройствам. Такой подход может помочь снизить подверженность таких технологий враждебным сбоям и поддерживать более высокие результаты безопасности и конфиденциальности.
Общая картина: организационные мосты между криптовалютой и AGI
Примечательно, что его основатель Виталик Бутерин также поместил AGI в контекст глобального технологического и экономического прогресса. В своем посте в ответ на Баладжи Шринивасану, который писал о скорости прогресса, он ретвитнул схему «мира атомов», физического мира и «мира битов», цифрового мира.
Это согласуется с продолжающейся дальнейшей интеграцией криптовалюты и искусственного интеллекта по мере их продвижения к общему использованию. Для Виталика Бутерина криптовалюта — это всего лишь грань этой истории, и приложение должно вписываться в более широкие векторы безопасности и децентрализации.
Соучредитель Ethereum завершил свое выступление по этому вопросу призывом к целенаправленным действиям, направленным на безопасное внедрение AGI и других выдающихся технологий.
Заключение: призыв к готовности
Cryptoknowmics представляет ниже обзор AGI от Виталика Бутерина, который предлагает ценные идеи о сегодняшних и будущих возможностях. Таким образом, посредством децентрализации и самохранения он указывает на возможный способ снижения рисков, связанных с экспоненциальным ростом AGI. Но, как показывает пример успеха O3, скорость инноваций неуклонна, и нельзя переоценить, что настало время решать эти проблемы.
AGI и его актуальность станут темой для обсуждения на долгие годы, но очевидно, что для освоения этой новой территории необходимы конкретные, целенаправленные шаги. Или мы готовы к тому, что нас ждет? Что ж, только время и наши действия смогут подтвердить это. Продолжайте следить за The Bit Journal и следите за анализом и обновлениями крипторынка Виталика Бутерина.
Часто задаваемые вопросы
1. Что обозначают буквы AGI и почему это важно?
AGI или искусственный общий интеллект относится к решениям ИИ, которые способны выполнять задачи, для которых может потребоваться человеческий интеллект. Его развитие важно в связи с тем, что это новый технологический прогресс, который несет в себе серьезные угрозы.
2. Как децентрализация способствует снижению рисков AGI?
Децентрализация минимизирует зависимость от определенных центральных органов, которые, тем не менее, очень подвержены эксплуатации или неправильному управлению. Это снижает вероятность возникновения серьезных проблем, связанных с неправильным использованием AGI, поскольку децентрализация дает больше полномочий в руки пользователей.
3. Какое отношение имеет криптовалюта к этому разговору?
Криптовалюта и AGI имеют одну из общих черт в том, что для их поддержки требуются сложные цифровые сети. Они обе являются безопасностью, масштабируемостью и этикой, и поэтому децентрализация актуальна для каждой технологии.
4. Какие конкретные опасения вызывает ОИИ, по мнению Виталика Бутерина?
Бутерин предположил, что такие угрозы, как взлом, манипуляция и захват физического уровня, необходимо каким-то образом решить.
Подпишитесь на нас в Twitter и LinkedIn, а также присоединяйтесь к нашему каналу Telegram, чтобы мгновенно быть в курсе последних новостей!