Мошенничество с дипфейками — тревожная тенденция, о которой предупреждает Комиссия по ценным бумагам и фьючерсам Гонконга. Эти мошенничества влияют на криптобизнес. Мошенники используют сложные стратегии, такие как дипфейковые фильмы, изображающие таких известных людей, как Илон Маск, чтобы обмануть людей с помощью передовых технологий искусственного интеллекта. Мы рассмотрим недавний случай, когда базирующаяся в Гонконге организация использовала технологию дипфейков для рекламы фальшивых криптосхем, освещая более широкие последствия такой нечестной тактики.

Рост мошенничества с дипфейками в 2024 году

Мошенники постоянно меняют свои стратегии, чтобы воспользоваться слабостями цифровых экосистем, поскольку мы живем во времена быстрых технических инноваций. Технология Deepfake стала мощным оружием в арсенале хакеров. Он использует алгоритмы искусственного интеллекта для имитации голосов и выражений лиц целевых лиц. Используя эти реалистичные симуляции, артисты могут создавать фальшивые аудио- или видеозаписи и успешно выдавать себя за известных лиц для совершения мошеннических действий.

В 2024 году, когда по всему миру было проведено более 40 выборов, это стало серьезной проблемой. Достижения в области технологий, особенно синтетических медиа, таких как дипфейки, затруднили определение того, созданы ли медиа с помощью компьютера или основаны на реальных событиях. Влияние дипфейков на выборы остается неясным, но примеры показывают, что их можно использовать по-разному.

Ученые опубликовали множество статей и книг на эту тему. Журналисты прошли обучение в целях подтверждения и проверки, а правительства приняли участие в работе «больших комитетов» и центров превосходства. Разработка стратегий устойчивости превратила библиотеки в центр их внимания. Появились некоторые новые организации, предлагающие ресурсы, обучение и анализ. Эта работа привела к более глубокому пониманию дезинформации как социального, психологического, политического и технического явления.

Политические дипфейки могут принимать разные формы, например, запугивание и жестокое обращение с женщинами и девочками или распространение ложной информации о тех, кто баллотируется на посты. Из-за сложности дипфейкового звука его сложно идентифицировать, и важно помнить, что дипфейки все еще находятся в зачаточном состоянии и им не хватает высокого качества.

Ноль долларов — это сумма, которую должен был получить этот мошенник. pic.twitter.com/wvM3HJYql6

– Доктор Анастасия Мария Лупис (@DrLoupis) 13 февраля 2024 г.

Действия избирательных комиссий, кандидатов, средств массовой информации и избирателей в случае потенциальных инцидентов остаются неясными. Честность демократических выборов не может зависеть от некомпетентности фальсификаторов. Еще одной тактикой, используемой для подрыва демократии, является распространение слухов и заговоров относительно действительности избирательного процесса.

Устойчивость демократических процессов необходимо принимать во внимание, чтобы бороться с проблемой дезинформации перед следующими выборами. Служит ли общественным интересам система беспристрастных СМИ, которые могут проводить качественные расследования? Существуют ли независимые суды, которые могут принимать решения, когда это необходимо? И в достаточной ли степени политики и политические партии отдают приоритет демократическим принципам над личными интересами? Ответы на эти вопросы могут появиться в течение этого года выборов.

Раскрыта афера в Гонконге

Недавно Комиссия по ценным бумагам и фьючерсам Гонконга обнародовала информацию о тревожном случае, связанном с группой, которая использовала название AI Quantum или Quantum AI. Эта преступная организация утверждала, что предоставляет передовые услуги по торговле биткойнами на основе искусственного интеллекта. Однако доказательства, которые нашли следователи, указывают на то, что организация выступала в качестве прикрытия для совершения мошенничества с виртуальными активами.

Гонконгская криптобиржа использует Deepfake Илона Маска для продвижения услуг pic.twitter.com/GG61JbT3R9

– CryptoAlerts365 (@CryptoAlerts365) 13 мая 2024 г.

Чтобы повысить доверие к своей схеме, злоумышленники прибегли к использованию дипфейковых видеороликов с участием Илона Маска, ложно изображая его как вдохновителя своей технологии. Распространяя эти сфабрикованные видеоролики и создавая поддельный «новостной» веб-сайт, мошенники стремились обмануть потенциальных жертв и узаконить свои незаконные действия. Эта манипуляция доверием подчеркивает коварную природу дипфейковых мошенничеств и проблемы, которые они создают для ничего не подозревающих людей, перемещающихся по цифровому ландшафту.

Корейская женщина влюбилась в дипфейковое видео Илона Маска, отправив мошеннику более 50 тысяч долларов pic.twitter.com/6x8AIJvmrb

– Публичность (@pubity) 5 мая 2024 г.

Быстрые действия и постоянные опасения

Оперативное вмешательство властей Гонконга привело к закрытию всех веб-сайтов и страниц группы в социальных сетях. Однако полный масштаб ущерба, нанесенного мошенничеством, остается неизвестным, что подчеркивает острую необходимость повышения бдительности и принятия надежных мер кибербезопасности. Этот инцидент служит суровым напоминанием о повсеместной угрозе, исходящей от технологии дипфейков, и необходимости защиты от ее злонамеренного использования.

Этот случай не является единичным инцидентом; это часть более широкой тенденции, когда мошенники используют технологию дипфейков для использования мошеннических схем по всему миру. От романтических афер, совершаемых печально известными группами, такими как «The Yahoo Boys» в Нигерии, до тщательно разработанной тактики выдачи себя за другое лицо, направленной против таких высокопоставленных фигур, как Илон Маск, и политических лидеров, таких как премьер-министр Сингапура Ли Сянь Лунг, распространение дипфейковых мошенничеств подчеркивает далеко идущие последствия. технологических манипуляций.

В отсутствие Конгресса штаты и международные регулирующие органы принимают меры по контролю над распространением предвыборного контента, генерируемого ИИ. Около десяти штатов приняли законы, предусматривающие наказание тех, кто использует ИИ для обмана избирателей, а губернатор Висконсина подписал двухпартийный законопроект, который будет штрафовать людей, не раскрывающих ИИ в политической рекламе. Закон Мичигана наказывает любого, кто сознательно распространяет созданный искусственным интеллектом дипфейк в течение 90 дней после выборов. Однако неясно, достаточны ли штрафы для сдерживания потенциальных правонарушителей. Из-за ограниченности технологий обнаружения и небольшого числа специально назначенных сотрудников правоохранительным органам может быть сложно быстро подтвердить, действительно ли видео или изображение создано с помощью ИИ.

Правительственные чиновники добиваются добровольных соглашений как с политиками, так и с технологическими компаниями, чтобы контролировать распространение предвыборного контента, созданного ИИ. Вице-президент Европейской комиссии Вера Журова направила письма ключевым политическим партиям в европейских государствах-членах с призывом противостоять использованию манипулятивных методов, но политики и политические партии не столкнутся с какими-либо последствиями, если они не последуют ее просьбе.

OpenAI пыталась наладить отношения с компаниями социальных сетей, чтобы решить проблему распространения политических материалов, созданных с помощью ИИ. Однако компании не будут подвергаться никаким штрафам, если они не выполнят свои обязательства.

Поскольку общество борется с этическими и нормативными проблемами, создаваемыми дипфейковыми технологиями, борьба с их неправомерным использованием требует согласованных усилий заинтересованных сторон из разных секторов. Для защиты цифровых экосистем от мошенничества решающее значение имеют повышение осведомленности и строгие меры правоприменения. В эпоху, когда реальностью можно легко манипулировать, проницательность и скептицизм имеют первостепенное значение в навигации по постоянно меняющемуся ландшафту онлайн-взаимодействий.

Сообщение Комиссии по ценным бумагам Гонконга предупреждает о мошенничестве с дипфейками, нацеленным на криптоиндустрию: последствия для безопасности инвесторов, впервые появилось на Metaverse Post.