TLDR

  • Sztuczna inteligencja jest wykorzystywana do usprawniania różnych rodzajów oszustw, w tym klonowania głosu, spersonalizowanego phishingu, oszustw związanych z tożsamością i fałszywego szantażu

  • Morgan Freeman wypowiedział się przeciwko nieautoryzowanemu naśladowaniu swojego głosu przez sztuczną inteligencję

  • Gwiazdy takie jak Scarlett Johansson i Drake borykają się z problemami związanymi z treściami generowanymi przez sztuczną inteligencję imitującymi ich głosy

  • W branży rozrywkowej rosną obawy związane z niewłaściwym wykorzystaniem technologii sztucznej inteligencji

  • Eksperci zalecają zachowanie czujności i najlepsze praktyki w zakresie cyberbezpieczeństwa w celu ochrony przed oszustwami wykorzystującymi sztuczną inteligencję

W miarę rozwoju technologii sztucznej inteligencji (AI) oszuści znajdują nowe sposoby wykorzystania jej do złośliwych celów.

Od klonowania głosu po fałszywy szantaż – oszustwa wykorzystujące sztuczną inteligencję stają się coraz bardziej wyrafinowane i trudniejsze do wykrycia.

Jednocześnie gwiazdy wypowiadają się przeciwko nieuprawnionemu wykorzystywaniu ich głosów i podobizny w treściach generowanych przez sztuczną inteligencję.

Jedno z najbardziej niepokojących oszustw związanych z sztuczną inteligencją polega na klonowaniu głosu rodziny i przyjaciół. Oszuści mogą teraz tworzyć przekonujące fałszywe wersje głosów bliskich osób, wykorzystując zaledwie kilka sekund dźwięku.

Te syntetyczne głosy można wykorzystać do tworzenia fałszywych wezwań pomocy z prośbą o pieniądze lub pomoc. Eksperci radzą zachować ostrożność w przypadku niespodziewanych połączeń z nieznanych numerów i weryfikować tożsamość dzwoniącego za pomocą normalnych kanałów komunikacji.

Spersonalizowane wiadomości e-mail typu phishing i spam to kolejne rosnące zagrożenie. Modele językowe AI mogą teraz generować spersonalizowane wiadomości spamowe, korzystając z danych osobowych uzyskanych w wyniku naruszeń bezpieczeństwa danych.

Te dostosowane wiadomości są znacznie bardziej przekonujące niż tradycyjny spam generyczny. Użytkownikom zaleca się zachowanie czujności i unikanie klikania linków lub otwierania załączników z podejrzanych źródeł, nawet jeśli wiadomość wydaje się spersonalizowana.

Oszustwa związane z tożsamością również stają się coraz bardziej wyrafinowane dzięki sztucznej inteligencji. Oszuści mogą teraz tworzyć persony AI, które brzmią jak osoba docelowa i mają dostęp do wielu faktów osobistych wykorzystywanych do weryfikacji tożsamości.

Ułatwia im to podszywanie się pod konkretne osoby podczas kontaktu z obsługą klienta. Eksperci zalecają korzystanie z uwierzytelniania wieloskładnikowego i zachowanie ostrożności w przypadku podejrzanej aktywności na koncie.

Być może najbardziej niepokojącym zjawiskiem jest wykorzystanie fałszywych fałszywych informacji generowanych przez sztuczną inteligencję do szantażu.

Zaawansowane modele generowania obrazów mogą teraz tworzyć realistyczne fałszywe nagie zdjęcia niemal każdego, co oszuści mogą wykorzystać jako narzędzie do wymuszenia. Chociaż jest to niepokojąca tendencja, eksperci zauważają, że fałszywym obrazom często brakuje cech wyróżniających i mogą mieć oczywiste wady. Ofiarom zaleca się zgłaszanie takich incydentów władzom.

Przemysł rozrywkowy został szczególnie dotknięty nieautoryzowanymi imitacjami sztucznej inteligencji.

Niedawno aktor Morgan Freeman wypowiedział się przeciwko rozpowszechnianiu w mediach społecznościowych imitacji głosu AI, które przedstawiają jego samego. W oświadczeniu Freeman podziękował swoim fanom za „czujność i wsparcie w nagłaśnianiu nieuprawnionego użycia sztucznej inteligencji”. głos, który mnie naśladuje. Podkreślił znaczenie zachowania „autentyczności i integralności” w obliczu takiej technologii.

Dziękuję moim niesamowitym fanom za czujność i wsparcie w nagłaśnianiu nieuprawnionego użycia sztucznej inteligencji. głos, który mnie naśladuje. Dzięki Twojemu zaangażowaniu autentyczność i integralność pozostają najważniejsze. Wdzięczny.#AI#oszustwo#imitacja#Ochrona Tożsamości

— Morgan Freeman (@morgan_freeman) 28 czerwca 2024 r

Freeman nie jest osamotniony w swoich obawach. Inne gwiazdy borykały się z podobnymi problemami związanymi z treściami generowanymi przez sztuczną inteligencję.

Zespół prawny Scarlett Johansson rzucił niedawno wyzwanie OpenAI w związku z osobistym asystentem głosowym AI, który brzmiał niezwykle podobnie do jej głosu, mimo że odmówiła ona udziału w projekcie.

Raper Drake również spotkał się z kontrowersjami związanymi z wykorzystaniem w piosence imitacji Tupaca Shakura i Snoop Dogga wygenerowanych przez sztuczną inteligencję, co doprowadziło do wydania nakazu zaprzestania działalności posiadłości Shakura.

Wpis Morgana Freemana i gwiazd wypowiadających się przeciwko nieautoryzowanym imitacjom sztucznej inteligencji pojawił się jako pierwszy w Blockonomi.