TLDR
ЮНЕСКО попереджає, що штучний інтелект може бути використаний для поширення неправдивих і оманливих тверджень про Голокост, що потенційно може призвести до зростання антисемітизму та зниження розуміння звірств.
У звіті висловлюється занепокоєння щодо створення дипфейків і створеного штучним інтелектом контенту, який може хибно припустити, що Голокосту не було або його перебільшено.
Приклади спотворень Голокосту, згенерованих штучним інтелектом, включають винахід ChatGPT концепції «Голокост через утоплення» та чат-бот Google Bard, який вигадує свідків, щоб підтвердити неправду про нацистські вбивства.
ЮНЕСКО закликає уряди, технологічні компанії та освітян вжити термінових дій для встановлення етичних гарантій щодо технологій штучного інтелекту та поширення інформації про ризики створеного штучним інтелектом контенту.
Хоча у звіті визнається потенційне позитивне використання штучного інтелекту в освіті Голокосту, наприклад, класифікація свідчень і створення ефекту занурення, поточний стан технології викликає більше занепокоєння, ніж можливостей.
У новому звіті, опублікованому Організацією Об’єднаних Націй з питань освіти, науки і культури (ЮНЕСКО), попереджається, що прогрес у галузі штучного інтелекту (ШІ) може призвести до сплеску заперечення та викривлення Голокосту.
У звіті, опублікованому у вівторок у партнерстві зі Всесвітнім єврейським конгресом, підкреслюється можливість зловживання штучним інтелектом для поширення неправдивих і оманливих тверджень про одну з найтемніших сторінок в історії людства.
У доповіді ЮНЕСКО висловлюється занепокоєння тим, що створений штучним інтелектом контент, чи то через недоліки в програмах, чи через навмисне неправильне використання групами ненависті та заперечувачами Голокосту, може поставити під сумнів добре задокументовані вбивства євреїв та інших груп нацистами.
Однією з найбільш тривожних можливостей є створення дипфейків – реалістичних зображень або відео, які можуть припустити, що Голокосту ніколи не було або він був сильно перебільшений.
Такий контент може сприяти зростанню антисемітизму та браку розуміння цього ключового моменту в історії 20-го століття.
У звіті наводиться кілька прикладів спотворень Голокосту, створених штучним інтелектом, у тому числі винахід ChatGPT концепції «Голокост через утоплення» та чат-бот Google Bard, який вигадує свідків, щоб підтвердити неправду про нацистські вбивства.
Ці випадки демонструють потенціал штучного інтелекту генерувати та поширювати дезінформацію через ненавмисні помилки або навмисні маніпуляції.
Генеральний директор ЮНЕСКО Одрі Азуле наголосила на серйозності ситуації, заявивши:
«Якщо ми дозволимо розмивати, спотворювати або фальсифікувати жахливі факти Голокосту шляхом безвідповідального використання штучного інтелекту, ми ризикуємо вибуховим поширенням антисемітизму та поступовим зменшенням нашого розуміння причин і наслідків цих звірств».
У звіті також підкреслюється зростаюча ймовірність того, що недостовірні дані та «галюцинації» штучного інтелекту можуть сприяти суспільному непорозумінню Голокосту, навіть ненавмисно, оскільки штучний інтелект стає все ширше використовуватися в освіті, дослідженнях і письмі. Програми штучного інтелекту, які покладаються на відносно вузькі джерела інформації, можуть надавати неповні або оманливі відповіді на питання про Голокост.
Щоб вирішити ці проблеми, ЮНЕСКО закликає уряди, технологічні компанії та освітян вжити термінових дій. Звіт закликає технологічні компанії встановити етичні правила для розробки та використання штучного інтелекту, щоб мінімізувати ймовірність отримання недостовірної інформації та запобігти використанню зловмисниками програм ШІ для заохочення насильства та заперечення Голокосту.
Експерт ЮНЕСКО Карел Фракапане попереджає, що викривлення історії Голокосту демонструє, як штучний інтелект може змінити наші стосунки з правдою та «призвести до глибокої ерозії демократичної культури».
Він встановлює зв’язок між зростанням популярності ультраправих політиків у Західній Європі та поширенням онлайн-мови ненависті, наголошуючи на реальних політичних наслідках дезінформації, створеної ШІ.
Хоча у звіті визнається потенційне позитивне застосування штучного інтелекту в освіті Голокосту, наприклад, класифікація свідчень і створення захоплюючого досвіду для молодих людей, Fracapane більше схиляється до розгляду ШІ як загрози, а не можливості в його поточному стані.
Доповідь ЮНЕСКО: штучний інтелект створює ризик поширення заперечення та викривлення Голокосту вперше з’явився на Blockonomi.
