ЮНЕСКО выразила обеспокоенность по поводу того, что генеративный ИИ может исказить историю Холокоста, если разработчики ИИ не будут строго соблюдать этические стандарты.
В отчете, опубликованном в понедельник, ЮНЕСКО предупредила о потенциальном злоупотреблении генеративным искусственным интеллектом злоумышленниками.
Уязвимость молодежи к дезинформации
В докладе, опубликованном в сотрудничестве со Всемирным еврейским конгрессом, подчеркивается, что молодые люди особенно уязвимы к получению искаженной информации из-за широкого использования ими новых технологий, таких как искусственный интеллект. В отчете подчеркивается, что около 80% людей в возрасте от 10 до 24 лет используют ИИ для различных задач, включая школьные задания. Такая высокая степень воздействия увеличивает их шансы столкнуться с искаженной информацией.
Генеральный директор ЮНЕСКО Одри Азуле заявила: «Если мы позволим разбавлять, искажать или фальсифицировать ужасающие факты Холокоста посредством безответственного использования ИИ, мы рискуем взрывным распространением антисемитизма и постепенным снижением нашего понимания причин и последствий Холокоста». этих злодеяний».
В докладе также отмечается, что ИИ склонен чрезмерно упрощать сложные исторические события, часто отдавая предпочтение узкому кругу источников. Например, от 60% до 80% лучших результатов поиска изображений Холокоста в поисковых системах с использованием искусственного интеллекта показывают только один сайт — Освенцим-Биркенау.
Потенциал ИИ увековечить предубеждения
В докладе ЮНЕСКО предупреждается, что ИИ может увековечить существующие предубеждения, и Холокост не застрахован от этого риска. По данным ЮНЕСКО, дезинформация о Холокосте уже широко распространена и может усугубиться с использованием генеративного искусственного интеллекта.
Азулай подчеркнул необходимость обеспечения соблюдения этических стандартов, чтобы защитить молодых людей от получения искаженной информации. «Выполнение Рекомендации ЮНЕСКО по этике ИИ является неотложной задачей, чтобы молодые поколения росли на фактах, а не на выдумках», — сказал Азуле.
В отчете освещаются случаи, когда модели искусственного интеллекта, такие как ChatGPT OpenAI и Bard от Google, теперь называемые Gemini, фабриковали события, связанные с Холокостом. Эти модели представляют собой «галлюцинации» о Холокосте, подробно описывая вымышленные события, такие как нацистские кампании, когда евреев топили в реках и озерах. Кроме того, модели искусственного интеллекта генерировали ложные цитаты в поддержку этих искаженных повествований.
Призыв к этическим стандартам ИИ
Отчет ЮНЕСКО призывает к немедленным действиям по обеспечению соблюдения этических стандартов в разработке ИИ. Он выступает за многосторонний подход к решению этой проблемы, подчеркивая важность применения Рекомендации по этике ИИ, принятой государствами-членами ЮНЕСКО в 2021 году.
ЮНЕСКО также призвала технологические компании уважать принципы справедливости, прозрачности, прав человека и должной осмотрительности в процессах разработки ИИ. В феврале восемь технологических компаний подписали обязательство перед Генеральным директором ЮНЕСКО, взяв на себя обязательство применять этический подход при разработке своих моделей ИИ.
В докладе подчеркивается, что способность ИИ фабриковать и искажать исторические события, такие как Холокост, представляет собой значительный риск. ЮНЕСКО подчеркивает, что генеративный ИИ может стать инструментом распространения дезинформации и увековечивания вредных предубеждений без строгих этических принципов и надзора.
Обеспокоенность ЮНЕСКО подчеркивает необходимость бдительности и ответственности при разработке и внедрении технологий искусственного интеллекта. Призыв организации к действию направлен на то, чтобы память о Холокосте и других исторических событиях оставалась точной и уважаемой, защищая будущие поколения от опасностей дезинформации.
Неотложность внедрения этических стандартов в разработке ИИ невозможно переоценить. Рекомендация ЮНЕСКО по этике ИИ обеспечивает основу для обеспечения того, чтобы технологии ИИ разрабатывались и использовались ответственно. Эта основа включает такие принципы, как справедливость, прозрачность и уважение прав человека, которые необходимы для предотвращения распространения дезинформации и дезинформации.
Отчет ЮНЕСКО напоминает нам о решающей роли, которую этические стандарты играют в развитии ИИ. Придерживаясь этих стандартов, разработчики могут помочь предотвратить искажение исторических событий и защитить целостность информации, к которой получают доступ молодые люди и широкая общественность.
Пост ЮНЕСКО «Обеспокоенный искусственный интеллект может исказить память о Холокосте» впервые появился на Coinfea.
