TLDR
Umělá inteligence se používá k vylepšení různých typů podvodů, včetně klonování hlasu, personalizovaného phishingu, podvodů s identitou a falešného vydírání.
Morgan Freeman se vyslovil proti neautorizovanému napodobování vlastního hlasu AI
Celebrity jako Scarlett Johansson a Drake čelily problémům s obsahem generovaným umělou inteligencí napodobujícím jejich hlasy.
V zábavním průmyslu rostou obavy ze zneužití technologie AI
Odborníci doporučují ostražitost a osvědčené postupy kybernetické bezpečnosti na ochranu před podvody poháněnými umělou inteligencí
Jak technologie umělé inteligence (AI) postupuje, podvodníci nacházejí nové způsoby, jak ji zneužít ke škodlivým účelům.
Od klonování hlasu až po hluboké falešné vydírání, podvody poháněné umělou inteligencí jsou stále sofistikovanější a hůře odhalitelné.
Celebrity zároveň vystupují proti neoprávněnému používání jejich hlasů a podobizen v obsahu generovaném umělou inteligencí.
Jeden z nejvíce znepokojujících podvodů s umělou inteligencí zahrnuje klonování hlasu rodiny a přátel. Podvodníci nyní mohou vytvářet přesvědčivé falešné verze hlasů blízkých pomocí pouhých několika sekund zvuku.
Tyto syntetické hlasy lze použít k vytvoření falešných tísňových volání s žádostí o peníze nebo pomoc. Odborníci doporučují dávat si pozor na neočekávané hovory z neznámých čísel a ověřit identitu volajícího běžnými komunikačními kanály.
Personalizované phishingové a spamové e-maily jsou další rostoucí hrozbou. Jazykové modely umělé inteligence nyní dokážou generovat přizpůsobené spamové zprávy pomocí osobních informací získaných z narušení dat.
Tyto zprávy na míru jsou mnohem přesvědčivější než tradiční generický spam. Uživatelům se doporučuje, aby zůstali ostražití a neklikali na odkazy nebo neotevírali přílohy z podezřelých zdrojů, i když se zpráva zdá být personalizovaná.
Podvody s identitou jsou také s AI čím dál propracovanější. Podvodníci nyní mohou vytvářet osoby AI, které znějí jako cílová osoba a mají přístup k mnoha osobním faktům používaným k ověření identity.
To jim usnadňuje vydávat se za jednotlivce při kontaktování zákaznického servisu. Odborníci doporučují používat vícefaktorové ověřování a dávat si pozor na jakoukoli podezřelou aktivitu účtu.
Snad nejvíce alarmujícím vývojem je použití deepfakes generovaných umělou inteligencí k vydírání.
Pokročilé modely generování obrázků nyní mohou vytvářet realistické falešné nahé obrázky téměř kohokoli, což mohou podvodníci využít jako páku k vydírání. I když je to znepokojivý trend, odborníci poznamenávají, že tyto falešné obrázky často postrádají rozlišovací znaky a mohou mít zjevné nedostatky. Obětem se doporučuje, aby takové incidenty nahlásily úřadům.
Neautorizované napodobeniny umělé inteligence zasáhly zejména zábavní průmysl.
Nedávno se herec Morgan Freeman vyslovil proti tomu, aby na sociálních sítích kolovaly jeho hlasové napodobeniny. V prohlášení Freeman poděkoval svým fanouškům za jejich „bdělost a podporu při upozorňování na neoprávněné použití A.I. hlas mě napodobuje." Zdůraznil důležitost zachování „pravosti a integrity“ tváří v tvář takové technologii.
Děkuji svým neuvěřitelným fanouškům za vaši bdělost a podporu při upozorňování na neoprávněné použití A.I. hlas mě napodobuje. Vaše oddanost pomáhá autenticitě a integritě zůstat prvořadými. Vděčný.#AI#podvod#imitace#Ochrana identity
— Morgan Freeman (@morgan_freeman) 28. června 2024
Freeman není ve svých starostech sám. Jiné celebrity čelily podobným problémům s obsahem generovaným AI.
Právní tým Scarlett Johansson nedávno napadl OpenAI ohledně osobního hlasového asistenta AI, který zněl nápadně podobně jako její hlas, a to navzdory tomu, že se odmítla zúčastnit projektu.
Rapper Drake také čelil kontroverzi kvůli použití imitací Tupaca Shakura a Snoop Dogga generovaných umělou inteligencí v písni, což vedlo k příkazu k zastavení a zastavení ze Shakurova majetku.
Příspěvek Morgan Freeman a celebrity mluví proti neoprávněným imitacím umělé inteligence appeared first on Blockonomi.