TLDR
ИИ используется для усиления различных типов мошенничества, включая клонирование голоса, персонализированный фишинг, мошенничество с личными данными и дипфейковый шантаж.
Морган Фримен выступил против несанкционированной имитации самого себя искусственным интеллектом
Знаменитости, такие как Скарлетт Йоханссон и Дрейк, столкнулись с проблемами, связанными с контентом, созданным искусственным интеллектом, имитирующим их голоса.
В индустрии развлечений растет обеспокоенность по поводу неправильного использования технологий искусственного интеллекта.
Эксперты рекомендуют лучшие практики бдительности и кибербезопасности для защиты от мошенничества с использованием искусственного интеллекта.
По мере развития технологии искусственного интеллекта (ИИ) мошенники находят новые способы использовать ее в вредоносных целях.
Мошенничества с использованием искусственного интеллекта, от клонирования голоса до дипфейкового шантажа, становятся все более изощренными и их труднее обнаружить.
В то же время знаменитости выступают против несанкционированного использования их голосов и изображений в контенте, созданном искусственным интеллектом.
Одно из наиболее тревожных мошенничеств с использованием ИИ связано с клонированием голоса членов семьи и друзей. Мошенники теперь могут создавать убедительные фальшивые версии голосов близких, используя всего несколько секунд аудио.
Эти синтетические голоса можно использовать для создания ложных сигналов бедствия с просьбой о деньгах или помощи. Эксперты советуют опасаться неожиданных звонков с неизвестных номеров и проверять личность звонящего по обычным каналам связи.
Персонализированные фишинговые и спам-сообщения — еще одна растущая угроза. Языковые модели искусственного интеллекта теперь могут генерировать персонализированные спам-сообщения, используя личную информацию, полученную в результате утечки данных.
Эти адаптированные сообщения гораздо более убедительны, чем традиционный спам. Пользователям рекомендуется сохранять бдительность и избегать перехода по ссылкам и открытия вложений из подозрительных источников, даже если сообщение кажется персонализированным.
Мошенничество с личными данными также становится более изощренным благодаря ИИ. Мошенники теперь могут создавать ИИ-персоны, которые похожи на целевого человека, и имеют доступ ко многим личным фактам, используемым для проверки личности.
Это позволяет им выдавать себя за других людей при обращении в службу поддержки клиентов. Эксперты рекомендуют использовать многофакторную аутентификацию и проявлять осторожность в отношении любой подозрительной активности в учетной записи.
Возможно, наиболее тревожным событием является использование дипфейков, созданных искусственным интеллектом, для шантажа.
Усовершенствованные модели генерации изображений теперь могут создавать реалистичные поддельные изображения обнаженной натуры практически любого человека, которые мошенники могут использовать в качестве рычага для вымогательства. Хотя это тревожная тенденция, эксперты отмечают, что эти фейковые изображения часто не имеют отличительных знаков и могут иметь очевидные недостатки. Жертвам рекомендуется сообщать о подобных инцидентах властям.
Индустрия развлечений особенно пострадала от несанкционированных имитаций искусственного интеллекта.
Недавно актер Морган Фриман выступил против имитации своего голоса искусственным интеллектом, распространяемой в социальных сетях. В своем заявлении Фримен поблагодарил своих поклонников за их «бдительность и поддержку в борьбе с несанкционированным использованием искусственного интеллекта». голос, подражающий мне». Он подчеркнул важность сохранения «подлинности и целостности» перед лицом таких технологий.
Спасибо моим невероятным фанатам за бдительность и поддержку в борьбе с несанкционированным использованием ИИ. голос, подражающий мне. Ваша преданность делу помогает искренности и честности оставаться на первом месте. Благодарный. #ИИ #мошенничество #имитация #Защита личных данных
– Морган Фриман (@morgan_freeman) 28 июня 2024 г.
Фримен не одинок в своих опасениях. Другие знаменитости столкнулись с аналогичными проблемами с контентом, созданным искусственным интеллектом.
Команда юристов Скарлетт Йоханссон недавно оспорила OpenAI из-за личного голосового помощника с искусственным интеллектом, который звучал удивительно похоже на ее голос, несмотря на то, что она отказалась участвовать в проекте.
Рэпер Дрейк также столкнулся с разногласиями за использование в песне созданных искусственным интеллектом имитаций Тупака Шакура и Снуп Догга, что привело к распоряжению о прекращении противоправных действий со стороны поместья Шакура.
Пост «Морган Фриман и знаменитости выступают против несанкционированных имитаций искусственного интеллекта» впервые появился на Blockonomi.
