Взрыв искусственного интеллекта (ИИ) наполняет наш мир либо идеалистическими мечтами, либо предсказаниями апокалипсиса, однако ни одно из них не отражает реальной угрозы.
Мы не сталкиваемся с "большим восстанием роботов", когда ИИ или роботы устраивают враждебный захват. Забудьте сцены из фильмов "Терминатор" или "Матрица" — этого не произойдет. Технологии для того, чтобы ИИ завоевал мир, не существует.
ИИ может превосходить в конкретных задачах, таких как сворачивание белков или игра в шахматы, но он не способен создавать армии или управлять государствами.
Тем не менее, отсутствие восстания роботов не означает, что мы в безопасности. ИИ тихо проникает в нашу жизнь менее драматичными, но столь же мощными способами: цифровой бюрократией.
Истинная опасность не в убийственных роботах. Это вторжение ИИ в решения, которые контролируют нашу повседневную жизнь. Люди эволюционировали, чтобы бояться осязаемых угроз. Думайте о крупных хищниках, таких как львы и акулы.
Но мы менее подготовлены к выявлению угроз из бумаги, документов или бюрократии. Бюрократия сама по себе является относительно новым изобретением, возникшим всего 5000 лет назад с появлением письменности.
Ранее право собственности, например, зависело от того, на чем согласилась община. Если вы "владели" участком земли, это было потому, что ваши соседи это уважали. Документы не требовались.
От глиняных табличек к цифровым бюрократам
Все изменилось, когда люди начали использовать глиняные таблички и записи. Письменные документы означали, что права собственности больше не зависели от согласия сообщества, а от официальных записей. Древние месопотамцы превратили комья глины в символы официального владения, перевернув представление о собственности.
Решение суда могло основываться на глиняной табличке, на которой говорилось, что вы владели участком земли, даже если общество с этим не соглашалось. Перенесемся в наше время, и наши системы все еще строятся на аналогичных принципах, только теперь мы используем кремниевые чипы и цифровые записи вместо глины.
Этот сдвиг преобразовал структуры власти. Право собственности стало чем-то, что можно продавать и обменивать без одобрения местного сообщества. Появилась бюрократия, что сделало возможными сбор налогов, финансирование армии и центральное правительство.
Бюрократы стали важными игроками в этих системах, используя записи, формы и печати для управления армиями, распределения ресурсов и даже контроля законов. Эти бюрократические системы привели к появлению централизованных государств с обширным контролем над своим населением, контроль теперь смещается к ИИ.
ИИ не нуждается в поднятии армии роботов; ему просто нужно освоить бюрократические системы. В рамках этих структур ИИ может принимать более влиятельные решения, чем любой человек, как это видно сегодня. ИИ уже решает, получим ли мы кредиты, предложения о работе, поступление в колледжи и даже медицинские диагнозы.
Представьте себе банкиров ИИ, определяющих право на кредит, судей ИИ, выносящих решения по делам, или военные ИИ, рассчитывающие цели ударов. ИИ не нуждается в восстании роботов. Бюрократическая власть, которую он наследует, уже огромна.
ИИ в социальных медиа и общественном влиянии
Алгоритмы социальных медиа, хоть и примитивные, уже обладают огромной властью. Алгоритмы ИИ, особенно те, что из Facebook, X (бывший Twitter), YouTube и TikTok, созданы с одной целью: - вовлечение пользователей. Чем дольше люди остаются на этих платформах, тем больше денег поступает в корпорации.
Через проб и ошибок с миллиардами пользователей эти алгоритмы выяснили, что вызов эмоций, таких как жадность, гнев и страх, увеличивает вовлеченность. Когда они нажимают на эти эмоциональные кнопки, они удерживают пользователей.
Эти алгоритмы не остановились на оптимизации времени, проведенного в сети. Они пошли дальше, обнаружив, что контент, вызывающий интенсивные эмоции, повышает вовлечение пользователей. Это открытие привело к распространению теорий заговора, дезинформации и социальных разделений.
Сегодня мир переполнен цифровым возмущением, запугиванием и поляризацией, благодаря алгоритмам, которые ставят клики выше согласованности. Используя эмоциональные триггеры, алгоритмы социальных сетей подогревают сегодняшнюю эпидемию теорий заговора и фейковых новостей.
Эти алгоритмические "решатели" не являются по своей сути злонамеренными. Напротив, они оптимизированы для эффективного выполнения своих ролей. Тем не менее, их решения лишены человеческой интуиции или контекста, которые мы обычно ожидаем в таких важных областях.
ИИ может принимать более быстрые или более последовательные решения, но если что-то пойдет не так, результаты могут быть катастрофическими. Этот потенциальный риск уже стал очевидным в влиянии социальных медиа на общество, служа предупреждением о том, куда может привести неконтролируемая власть ИИ.
Байден устанавливает правила ИИ для Пентагона и разведывательных агентств
Президент Джо Байден объявил о меморандуме по национальной безопасности с новыми правилами использования ИИ в национальной безопасности, предотвращая Пентагон и разведывательные агентства от использования ИИ способами, которые противоречат демократическим ценностям.
Это первая директива, регулирующая роль ИИ в национальной безопасности. Новые правила будут поощрять эксперименты с ИИ, при этом гарантируя, что государственные органы не используют ИИ для нарушения прав, таких как свобода слова, или подрыва контроля над ядерным оружием.
"Наш меморандум определяет первую в истории общего правительства структуру управления рисками ИИ," сказал советник по национальной безопасности Джейк Салливан. Он обозначил цели избежать предвзятости, поддерживать подотчетность и гарантировать человеческий контроль над ИИ в чувствительных ролях.
Хотя правила не являются обязательными к исполнению, они охватывают приложения национальной безопасности, такие как кибербезопасность, контрразведка и логистика в военных операциях. Байден также ввел экспортные ограничения в прошлом году, замедлив достижения ИИ в Китае, ограничив доступ к технологиям.
Согласно директиве, Институт безопасности ИИ в Вашингтоне будет отвечать за инспекцию инструментов ИИ, чтобы предотвратить неправильное использование до их выпуска, при этом разведывательное сообщество США будет придавать приоритет мониторингу достижений ИИ в других странах.
