GoPlus Security Research: ефект «палка з двома кінцями» технології ШІ, що змінює обличчя!
Останніми роками зі стрімким розвитком технологій штучного інтелекту технологія під назвою «ШІ-зміна обличчя» поступово виходить у поле зору громадськості. Витоки цієї технології можна віднести до 2017 року, коли Супасорн Суваджанакорн, дослідник з Вашингтонського університету, та інші запустили проект під назвою «Синтезуючи Обаму» за допомогою технології глибокого навчання. У цьому проекті вони успішно змінили відеокліп Барака Обами, щоб він вимовляв слова з нової звукової доріжки, які не мали нічого спільного з відео. Суть цієї технології полягає в комплексному застосуванні рекурентної нейронної мережі (RNN) і технології синтезу рота настільки реалістичні, що звук і рухи рота майже нерозрізнені.
З появою цієї технології з’явилися різноманітні відео та спільноти. Велика кількість відеопродюсерів почали використовувати технологію зміни обличчя штучного інтелекту, щоб додавати різноманітні складні спецефекти та технологію надвисокої роздільної здатності до своїх робіт, завдяки чому якість їхньої роботи виглядає справжньою. Ці відео широко розповсюджуються на YouTube, Instagram, TikTok та інших платформах. Згідно зі статистикою, загальна кількість переглядів відео, пов’язаних з Deepfakes, перевищила 10 мільярдів разів. Деякі виробники високоякісного відео навіть перевищують 1 мільйон переглядів одного відео.
Однак за цим божевіллям ми також повинні бути обережними щодо можливої шкоди, спричиненої технологією штучного інтелекту, що змінює обличчя. Серія DeepFaceLab, найуспішніше програмне забезпечення, що змінює обличчя в спільноті з відкритим кодом, є одним із представників. Це програмне забезпечення, розроблене Іваном Перовим і Дайхенгом Гао, серед інших, має понад 66 000 зірок GitHub і входить до десятки найкращих проектів штучного інтелекту з відкритим кодом у 2020 році разом із такими гігантами, як Tensorflow і PyTorch. Варто зазначити, що Дайхен Гао також є консультантом із штучного інтелекту для GoPlus, зосереджуючись на дослідженнях із запобігання зловживанню технологіями.
Хоча технологія штучного інтелекту, яка змінює обличчя, принесла нам безпрецедентний творчий і розважальний досвід, ми також повинні усвідомлювати, що цю технологію також можна використовувати в зловмисних цілях. Наприклад, замінюючи зображення обличчя у відео, злочинці можуть створити неправдиву політичну пропаганду, порнографічний вміст або зловмисні напади на інших.
Тому команда GoPlus закликає широку громадськість бути пильними при використанні технології штучного інтелекту, що змінює обличчя, і уникати її використання в незаконних або зловмисних цілях.
