ЮНЕСКО висловила стурбованість тим, що генеративний ШІ може спотворити історію Голокосту, якщо розробники ШІ не будуть застосовувати етичні стандарти. У звіті, опублікованому в понеділок, ЮНІСЕФ попередив про потенційне зловживання генеративним ШІ зловмисниками.

Читайте також: BIS попереджає, що центральні банки повинні «посилити свою гру» щодо ШІ

У звіті ЮНЕСКО попереджається, що зловмисники можуть використовувати цю технологію для поширення дезінформації, дезінформації та оманливого контенту про Голокост.

Молоді люди вразливі до неправдивої інформації

У доповіді, опублікованій спільно зі Всесвітнім єврейським конгресом, попереджається, що молоді люди більше схильні до ризику отримання викривленої інформації через їх високий рівень впливу нових технологій, таких як ШІ.

Це сталося з огляду на те, що звіти також свідчать про те, що 80% молодих людей у ​​віці від 10 до 24 років використовують ШІ для виконання різних завдань, наприклад шкільних завдань, що збільшує їхні шанси отримати доступ до спотвореної інформації.

«Якщо ми дозволимо розмивати, спотворювати або фальсифікувати жахливі факти Голокосту шляхом безвідповідального використання штучного інтелекту, ми ризикуємо вибуховим поширенням антисемітизму та поступовим зменшенням нашого розуміння причин і наслідків цих звірств».

Генеральний директор ЮНЕСКО Одрі Азуле.

У звіті також підкреслюється, що штучний інтелект має сильну схильність «надмірно спрощувати складну історію, віддаючи перевагу вузькому колу джерел і невеликому вибору подій». Наприклад, приблизно від 60% до 80% найпопулярніших зображень пошукових систем, які працюють на штучному інтелекті, показують лише одне місце Голокосту, Аушвіц-Біркенау.

ЮНЕСКО закликає до дій для дотримання етики

У звіті стверджується, що штучний інтелект може увічнити існуючі упередження, і Голокост не омине ці упередження ШІ. Згідно з даними ЮНЕСКО, дезінформація про Голокост вже поширена, і ситуація може погіршитися через генеративне використання ШІ.

Читайте також: Meta AI поширюється на Індію серед зростаючої конкуренції в галузі штучного інтелекту

Азулай підкреслив важливість дотримання етичних стандартів для захисту молоді від спотвореної інформації.

«Реалізація Рекомендації ЮНЕСКО щодо етики ШІ є терміновою, щоб молоді покоління росли на фактах, а не на вигадках».

Азулай.

У звіті підкреслюється, що моделі штучного інтелекту, такі як ChatGPT від OpenAI і Bard від Google, тепер Gemini, мали галюцинації про Голокост, докладно описуючи події, яких ніколи не було. За даними ЮНЕСКО, ці моделі «сфабрикували концепцію Голокосту завдяки кампаніям утоплення, під час яких нацисти топили євреїв у річках і озерах».

Моделі штучного інтелекту також створили фальшиві цитати, щоб підтвердити ці спотворені наративи. У світлі цих випадків ЮНЕСКО закликала до підходу багатьох зацікавлених сторін для вирішення проблеми. Одним із рішень є якнайшвидша імплементація Рекомендації щодо етики штучного інтелекту, яка була прийнята державами-членами у 2021 році.

ЮНЕСКО також закликала технологічні компанії поважати принципи справедливості, прозорості, прав людини та належної обачності. У лютому вісім технологічних фірм підписали зобов’язання перед генеральним директором ЮНЕСКО, зобов’язавшись застосовувати етичний підхід у розробці своїх моделей ШІ.

Звіти Cryptopolitan від Enacy Mapakame