ЮНЕСКО выразила обеспокоенность тем, что генеративный ИИ может исказить историю Холокоста, если разработчики ИИ не будут применять этические стандарты. В отчете, опубликованном в понедельник, ЮНИСЕФ предупредил о потенциальном злоупотреблении генеративным искусственным интеллектом злоумышленниками.

Читайте также: Центральные банки должны «повысить свою игру» в отношении ИИ, предупреждает BIS

В докладе ЮНЕСКО предупреждается, что злоумышленники могут использовать эту технологию для распространения дезинформации, дезинформации и вводящего в заблуждение содержания о Холокосте.

Молодые люди уязвимы к неверной информации

В докладе, опубликованном совместно со Всемирным еврейским конгрессом, предупреждается, что молодые люди более подвержены риску получения искаженной информации из-за их высокого воздействия новых технологий, таких как искусственный интеллект.

Это связано с тем, что отчеты также показывают, что 80% молодых людей в возрасте от 10 до 24 лет используют ИИ для различных задач, таких как школьные задания, что увеличивает их шансы получить доступ к искаженной информации.

«Если мы позволим размыть, исказить или фальсифицировать ужасающие факты Холокоста посредством безответственного использования ИИ, мы рискуем взрывным распространением антисемитизма и постепенным снижением нашего понимания причин и последствий этих злодеяний».

Генеральный директор ЮНЕСКО Одри Азуле.

В докладе также подчеркивается, что ИИ имеет сильную склонность «слишком упрощать сложную историю, отдавая предпочтение узкому кругу источников и небольшому набору событий». Например, от 60% до 80% лучших изображений поисковых систем, основанных на искусственном интеллекте, показывают только одно место Холокоста — Освенцим-Биркенау.

ЮНЕСКО призывает к действиям по обеспечению соблюдения этики

В докладе утверждается, что ИИ может увековечить существующие предубеждения, и Холокост не будет избавлен от этих предубеждений. По данным ЮНЕСКО, уже сейчас широко распространена дезинформация о Холокосте, которая может усугубиться из-за использования генеративного искусственного интеллекта.

Читайте также: Meta AI расширяется в Индию на фоне растущей конкуренции в области ИИ

Азулай подчеркнул важность соблюдения этических стандартов для защиты молодых людей от искаженной информации.

«Выполнение Рекомендации ЮНЕСКО по этике ИИ является неотложной задачей, чтобы молодые поколения росли на фактах, а не на выдумках».

Азулай.

В отчете подчеркивается, что модели искусственного интеллекта, такие как ChatGPT от OpenAI и Bard от Google, теперь Gemini, галлюцинировали о Холокосте, подробно описывая события, которых никогда не было. По данным ЮНЕСКО, эти модели «сфабриковали концепцию Холокоста, проводя кампании по утоплению евреев в реках и озерах».

Модели искусственного интеллекта также создали ложные цитаты в поддержку этих искаженных повествований. В свете этих случаев ЮНЕСКО призвала к использованию многостороннего подхода для решения этой проблемы. Одним из решений является скорейшая реализация Рекомендации по этике ИИ, принятой государствами-членами в 2021 году.

ЮНЕСКО также призвала технологические компании уважать принципы справедливости, прозрачности, прав человека и должной осмотрительности. В феврале восемь технологических компаний подписали перед генеральным директором ЮНЕСКО обязательство применять этический подход при разработке своих моделей искусственного интеллекта.

Криптополитический репортаж Энаси Мапакаме