ЮНЕСКО висловила стурбованість тим, що генеративний штучний інтелект може потенційно спотворити історію Голокосту, якщо розробники штучного інтелекту не будуть суворо застосовувати етичні стандарти. 

У звіті, опублікованому в понеділок, ЮНЕСКО попередила про потенційне зловживання генеративним штучним інтелектом поганими акторами.

Вразливість молодих людей до дезінформації

У звіті, опублікованому в партнерстві зі Всесвітнім єврейським конгресом, наголошується, що молоді люди особливо вразливі до отримання спотвореної інформації через те, що вони широко використовують нові технології, такі як ШІ. У звіті наголошується, що близько 80% людей у ​​віці від 10 до 24 років використовують штучний інтелект для різних завдань, включаючи шкільні завдання. Такий високий рівень впливу збільшує їхні шанси зіткнутися з викривленою інформацією.

Генеральний директор ЮНЕСКО Одрі Азуле заявила: «Якщо ми дозволимо розмивати, спотворювати або фальсифікувати жахливі факти Голокосту через безвідповідальне використання ШІ, ми ризикуємо вибуховим поширенням антисемітизму та поступовим зменшенням нашого розуміння причин і наслідків. цих звірств».

У звіті також зазначається, що ШІ має тенденцію надмірно спрощувати складні історичні події, часто віддаючи перевагу вузькому колу джерел. Наприклад, від 60% до 80% найпопулярніших зображень Голокосту в пошукових системах за допомогою штучного інтелекту показують лише одне місце, Аушвіц-Біркенау.

Потенціал штучного інтелекту увічнювати упередження

Доповідь ЮНЕСКО попереджає, що ШІ може увічнити існуючі упередження, і Голокост не звільнений від цього ризику. За даними ЮНЕСКО, дезінформація про Голокост вже поширена і може погіршитися з використанням генеративного ШІ. 

Азулай наголосив на необхідності дотримання етичних стандартів, щоб захистити молодь від отримання спотвореної інформації. «Реалізація Рекомендації ЮНЕСКО щодо етики ШІ є терміновою, щоб молоді покоління росли на фактах, а не на вигадках», — сказав Азулей.

У звіті висвітлюються випадки, коли моделі штучного інтелекту, такі як ChatGPT від OpenAI і Bard від Google, який тепер називається Gemini, фабрикували події, пов’язані з Голокостом. Ці моделі «галюцинували» про Голокост, деталізуючи вигадані події, такі як нацистські кампанії, під час яких євреїв топили в річках і озерах. Крім того, моделі штучного інтелекту згенерували помилкові цитати, щоб підтвердити ці спотворені наративи.

Заклик до етичних стандартів ШІ

Доповідь ЮНЕСКО закликає до негайних дій для забезпечення дотримання етичних стандартів у розробці ШІ. Він виступає за підхід багатьох зацікавлених сторін для вирішення проблеми, наголошуючи на важливості застосування Рекомендації щодо етики ШІ, ухваленої державами-членами ЮНЕСКО у 2021 році.

ЮНЕСКО також закликала технологічні компанії поважати принципи справедливості, прозорості, прав людини та належної обачності в своїх процесах розробки ШІ. У лютому вісім технологічних фірм підписали зобов’язання перед Генеральним директором ЮНЕСКО, зобов’язавшись застосовувати етичний підхід у розробці своїх моделей ШІ.

У звіті наголошується, що здатність штучного інтелекту фабрикувати та спотворювати історичні події, такі як Голокост, становить значний ризик. ЮНЕСКО підкреслює, що генеративний штучний інтелект може стати інструментом для поширення дезінформації та увічнення шкідливих упереджень без суворих етичних принципів і контролю.

Стурбованість ЮНЕСКО підкреслює необхідність пильності та відповідальності при розробці та розгортанні технологій ШІ. Заклик організації до дій спрямований на те, щоб пам’ять про Голокост та інші історичні події залишалася точною та шанованою, захищаючи майбутні покоління від небезпеки дезінформації.

Неможливо переоцінити терміновість впровадження етичних стандартів у розробку ШІ. Рекомендація ЮНЕСКО щодо етики штучного інтелекту забезпечує основу для забезпечення того, щоб технології ШІ розроблялися та використовувалися відповідально. Ця основа включає такі принципи, як справедливість, прозорість і повага до прав людини, які є важливими для запобігання поширенню дезінформації та дезінформації.

Звіт ЮНЕСКО нагадує нам про вирішальну роль етичних стандартів у розвитку ШІ. Дотримуючись цих стандартів, розробники можуть допомогти запобігти спотворенню історичних подій і захистити цілісність інформації, до якої мають доступ молоді люди та широка громадськість.

Повідомлення, стурбоване штучним інтелектом ЮНЕСКО, може спотворити пам'ять про Голокост, вперше з'явилося на Coinfea.