Соучредитель Ethereum Виталик Бутерин снова вызвал обсуждение своим глубоким пониманием передовых технологий. В блоге от 5 января он предложил весьма спорное предложение — ввести "мягкую паузу" для глобального аппаратного обеспечения ИИ, чтобы ограничить вычислительную мощность на промышленном уровне. Это предложение направлено на то, чтобы выиграть время для человечества, предотвращая развитие ИИ, которое выходит из-под контроля.
Сверхинтеллектуальный ИИ: будущее или угроза?
Сверхинтеллектуальный ИИ, означающий интеллект, превосходящий человеческий в почти всех когнитивных задачах, всегда рассматривался как "двусторонний меч" в технологическом сообществе. Хотя он открывает бесконечные возможности, он также вызывает широкие опасения. Бутерин прогнозирует, что появление сверхинтеллектуального ИИ может занять всего пять лет, и такая скорость может привести к вызовам, к которым человечество еще не готово.
Его основная точка зрения заключается в том, что быстрые эволюции ИИ могут вызвать непредсказуемые социальные риски и даже угрожать существованию человечества. Поэтому он предложил принять меры "мягкой паузы", временно значительно снизив глобальные вычислительные мощности, чтобы замедлить процесс разработки сверхинтеллектуального ИИ.
Что такое "мягкая пауза"?
Предложенная Бутериным "мягкая пауза" — это не просто остановка разработки технологий, а ограничение промышленного использования вычислительных ресурсов. Основные меры включают:
Снижение вычислительных мощностей:
Глобальные вычислительные ресурсы могут быть сокращены до 99%, что эффективно замедлит скорость обучения и развертывания моделей ИИ.
Упор делается на промышленное вычисление, а не на полное ограничение разработки со стороны отдельных лиц или небольших лабораторий.
Механизмы полномочий:
Промышленный ИИ-аппаратное обеспечение должно получать разрешение от международных регулирующих органов каждую неделю, чтобы функционировать.
Эта динамическая система одобрения обеспечивает, чтобы вычислительные ресурсы не использовались неправомерно.
Проверка технологии блокчейн:
Бутерин также предложил использовать технологию блокчейн для обеспечения механизма защиты от подделки для аппаратного обеспечения ИИ, чтобы гарантировать его соответствие согласованным правилам.
Эта концепция направлена на то, чтобы дать человечеству время адаптировать социальные, правовые и моральные рамки к приходу сверхинтеллектуального ИИ.
Обоснованность паузы ИИ-аппаратного обеспечения: необходимость или препятствие?
Предложение Бутерина вызвало глубокие размышления в техническом сообществе и обществе:
Аргументы в поддержку:
Избежать "технического контроля"
Если сверхинтеллектуальный ИИ выйдет из-под контроля человека, последствия могут быть катастрофическими. Пауза может гарантировать, что технологии развиваются в "безопасном русле".
Содействие глобальной координации
Механизмы полномочий и регулирование аппаратного обеспечения способствуют сотрудничеству между странами, предотвращая неконтролируемую гонку вооружений в области ИИ.
Управление рисками
Если правила ответственности и другие политики не могут эффективно сдерживать риски ИИ, аппаратная пауза предоставляет более прямую меру вмешательства.
Голоса против:
Сдерживание инноваций
Ограничение вычислительных мощностей может ослабить конкурентоспособность в области ИИ, особенно для научных исследований и медицинских приложений, требующих высокопроизводительных вычислений.
Сложности реализации
Как убедить ведущие технологические державы и компании мира совместно ограничить ресурсы? Исполнение этой политики связано с огромной неопределенностью.
Технический обход рисков
Аппаратные ограничения могут привести к черному рынку или техническим обходным действиям, что в конечном итоге приведет к неэффективности регулирования.
«Оборонительный ускоряющийся подход» Бутерина
Это предложение не является первым заявлением Бутерина. Ранее он предложил "Оборонительный ускоряющийся подход" (Defensive Accelerationism, сокращенно d/acc), который выступает за осторожное и ответственное продвижение технологического прогресса, а не за слепое стремление к скорости. Его блог рассматривает "мягкую паузу" как продолжение этой идеи и попытку разработать конкретные решения для рисков, связанных с сверхинтеллектуальным ИИ.
Сочетание блокчейна и регулирования ИИ
Стоит отметить, что Бутерин особенно упоминает потенциал технологии блокчейн в регулировании аппаратного обеспечения ИИ. Предоставляя прозрачный, неизменяемый механизм проверки через блокчейн, можно сделать процесс получения разрешений более надежным. Это сочетание не только соответствует его технической идеологии как лидера в сфере блокчейна, но и демонстрирует возможности новых технологий в решении глобальных проблем.
Пауза — это необходимая остановка или невозможная роскошь?
Предложение Виталика Бутерина глубоко исследует путь развития сверхинтеллектуального ИИ с этической, технологической и социальной точки зрения. Его призыв к "мягкой паузе" предлагает миру вариант, который стоит обсудить, но вопрос о широкой приемлемости этого предложения остается открытым.
На пути к сверхинтеллектуальному ИИ, будут ли люди нажимать на тормоза? Как вы относитесь к этой "паузе", возможна ли она, и как это повлияет на развитие технологий и общества? Оставляйте комментарии для обсуждения!
