Badania nad bezpieczeństwem GoPlus: efekt obosiecznego miecza technologii zmieniającej oblicze sztucznej inteligencji!

W ostatnich latach, wraz z szybkim rozwojem technologii sztucznej inteligencji, w opinii publicznej stopniowo pojawiła się technologia zwana „sztuczną zmianą twarzy”. Początków tej technologii można doszukać się w 2017 roku, kiedy Supasorn Suwajanakorn, badacz z Uniwersytetu Waszyngtońskiego, wraz z innymi osobami uruchomił projekt o nazwie „Synteza Obamy” wykorzystując technologię głębokiego uczenia się. W ramach tego projektu udało im się zmodyfikować klip wideo przedstawiający Baracka Obamę, tak aby wypowiadał słowa z nowej ścieżki dźwiękowej, która nie miała nic wspólnego z wideo. Trzon tej technologii polega na kompleksowym zastosowaniu rekurencyjnej sieci neuronowej (RNN) i technologii syntezy ust. Efekt jest tak realistyczny, że dźwięk i ruchy ust na filmie są prawie nie do odróżnienia.

Wraz z pojawieniem się tej technologii powstały różne filmy i społeczności. Wielu producentów wideo zaczęło wykorzystywać technologię zmieniającą oblicze sztucznej inteligencji, aby dodawać do swoich dzieł różne złożone efekty specjalne i technologię super rozdzielczości, dzięki czemu jakość ich pracy wygląda realistycznie. Filmy te są szeroko rozpowszechniane na YouTube, Instagramie, TikToku i innych platformach. Według statystyk łączna liczba wyświetleń filmów związanych z Deepfakes przekroczyła 10 miliardów razy. Niektórzy producenci wysokiej jakości filmów wideo przekroczyli nawet milion wyświetleń pojedynczego filmu.

Jednak za tym szaleństwem musimy również uważać na możliwe szkody spowodowane przez technologię zmieniającą oblicze sztucznej inteligencji. Jednym z przedstawicieli jest seria DeepFaceLab, oprogramowanie zmieniające oblicze, które odniosło największy sukces w społeczności open source. Oprogramowanie to, opracowane między innymi przez Ivana Perova i Daihenga Gao, ma ponad 66 000 gwiazdek na GitHubie i jest jednym z dziesięciu najlepszych projektów open source AI w 2020 r., obok gigantów takich jak Tensorflow i PyTorch. Warto wspomnieć, że Daiheng Gao jest także konsultantem AI dla GoPlus, skupiającym się na badaniach nad zapobieganiem nadużyciom technologii.

Chociaż technologia zmieniająca oblicze sztucznej inteligencji zapewniła nam niespotykane dotąd doświadczenia twórcze i rozrywkowe, musimy również zdać sobie sprawę, że technologię tę można również wykorzystać do szkodliwych celów. Na przykład zastępując wizerunki twarzy w filmach, przestępcy mogą tworzyć fałszywą propagandę polityczną, treści pornograficzne lub złośliwe ataki na inne osoby.

Dlatego zespół GoPlus wzywa opinię publiczną do zachowania czujności podczas korzystania z technologii zmieniającej oblicze sztucznej inteligencji i unikania wykorzystywania jej do celów nielegalnych lub złośliwych.