С развитием технологий ИИ ИИ неэтично используется в избирательных фильтрах, что указывает на угрозу влияния на выборы. Microsoft предупредила, что Китай готов поработать с предстоящими выборами в Индии, США и Южной Корее и что они готовы воспользоваться помощью контента, созданного искусственным интеллектом. Это предупреждение связано с недавним судебным процессом в Китае во время президентских выборов на Тайване, в ходе которого ИИ использовался для воздействия на результаты голосования.
Предупреждение и оценка Microsoft
Эксперты Microsoft по разведке угроз сообщили, что Китай, вероятно, является страной, стоящей за спонсируемыми государством хакерскими группами, которые могут использовать участие Северной Кореи для доступа к системам государственных избирательных агентств на выборах 2024 года. Предупреждение появилось после того, как Китай попытался использовать ИИ во время выборов президента Тайваня, чтобы повлиять на результат. План был реализован с помощью технологии ИИ, поскольку сгенерированный ИИ контент, такой как поддельные аудиоподдержки и мемы, выставлял некоторых кандидатов в плохом свете или манипулировал восприятием избирателей.
По словам представителей Microsoft, контент, сгенерированный ИИ из Китая, бросает вызов честности выборов в США, особенно таких важных выборов, как президентская гонка 2024 года. Технологический гигант предупреждает, что создание «глубоких фейков», вымышленных событий и других обманных приемов может обмануть общественность и нанести ущерб ее способности принимать обоснованные и правильные решения.
Влияние ИИ на выборы — это не только опыт Тайваня; Соединенные Штаты также наблюдали активность ИИ Китая в политической сфере. Китайские группы якобы проводили те же кампании по дезинформации среди ключевых целевых групп избирателей и также размещали партийные материалы в социальных сетях. Однако большинство исследований по этой теме не в состоянии предоставить существенную поддержку их заявлениям о заметном изменении общественного мнения.
В преддверии праймериз Демократической партии в Нью-Гемпшире в 2024 году было выпущено голосовое сообщение, сгенерированное ИИ, имитирующее голос президента Джо Байдена, призывающее избирателей воздержаться от участия в голосовании. Несмотря на утверждение, что ситуация не связана с Китаем, это событие демонстрирует более общую опасность для демократических процедур, создаваемую ИИ.
Последствия для выборов в Индии
Индия, которая должна провести всеобщие выборы, начинающиеся 19 апреля, также не свободна от опасности вмешательства ИИ. Совершенно очевидно, что предупреждение Microsoft показывает, что из-за растущего числа кибератак необходимо усилить бдительность для защиты целостности выборов в Индии от кибератак. Учитывая, что вся процедура состоит из семи этапов, начиная с 19 апреля по 1 июня, опасения по поводу вмешательства ИИ в процесс голосования кажутся обоснованными.
Одной из самых больших проблем Индии как крупнейшей демократии в мире является сохранение целостности избирательной системы от внешнего вмешательства. Контент, созданный ИИ, может быть использован для манипулирования восприятием избирателей и игнорирования легитимности выборов, что в конечном итоге приведет к недоверию к демократическому процессу.
После увеличения числа массовых выборов на международном уровне правительства, поставщики технологий и организации по правам человека должны обратить внимание на опасность, которую представляет контент, генерируемый ИИ. Преодоление этого препятствия требует взаимосвязанных попыток создания радикальных мер для быстрого обнаружения и пресечения распространения фейковой информации. Обеспечение целостности и прозрачности избирательного процесса должно быть в верхней части повестки дня перед предстоящими выборами в Индии. Бдительность против манипуляций ИИ и содействие цифровой грамотности, а также осведомленности избирателей являются основными столпами защиты демократии в цифровую эпоху.
Влияние ИИ на выборы представляет собой серьезную опасность, поскольку подрывает основы демократии и целостность избирательного процесса. Благодаря постоянному мониторингу и реактивным подходам заинтересованные стороны могут действовать сообща, чтобы остановить распространение фейкового контента и помочь обеспечить чистый демократический дух.
Источник: https://blogs.microsoft.com/on-the-issues/2024/04/04/china-ai-influence-elections-mtac-cybersecurity/