Vývojář umělé inteligence (AI) OpenAI se rozhodl „pozastavit“ používání svého nového hlasového režimu pro ChatGPT kvůli kontroverzi kolem toho, jak byl hlas vybrán a získán.
20. května vývojář zveřejnil na X, že „slyšel otázky“ o svém hlasu „Sky“, jednom z pěti hlasů dostupných pro jeho chatbota, a pracuje na jejich řešení.
Slyšeli jsme otázky o tom, jak jsme vybrali hlasy v ChatGPT, zejména Sky. Pracujeme na pozastavení používání Sky, zatímco je oslovujeme. Přečtěte si více o tom, jak jsme vybrali tyto hlasy: https://t.co/R8wwZjU36L
— OpenAI (@OpenAI) 20. května 2024
Otázky však vznikly poté, co známá herečka Scarlett Johansson vydala prohlášení týkající se její interakce s OpenAI a jejím generálním ředitelem a spoluzakladatelem Samem Altmanem.
Herečka uvedla, že ji kontaktoval Altman, který jí nabídl možnost pracovat s hlasem pro hlasový model ChatGPT 4.0. Johansson řekla, že nabídku odmítla a po vydání Sky ji rychle kontaktovali přátelé a rodina s tím, že to znělo jako ona.
"Když jsem slyšel demo, byl jsem šokován, rozhněván a nevěřil jsem, že pan Altman bude prosazovat hlas, který zněl tak děsivě podobně jako ten můj, že moji nejbližší přátelé a zpravodajské kanály nedokázali rozeznat rozdíl."
Řekla, že Altman kontaktoval jejího agenta dva dny před propuštěním a požádal o přehodnocení. Vzhledem k současné situaci Johansson řekla, že najala právní tým a zdůraznila potřebu jasnosti v době „deepfakes“ a „ochrany naší vlastní podoby“.
Zdroj: Bobby Allyn
OpenAI ve své odpovědi poskytla podrobný přehled toho, jak obsazovala a vybírala svůj hlas přes interprety pro své hlasy ChatGPT. Společnost zdůraznila, že Johansson nebyl napodoben.
„Věříme, že hlasy umělé inteligence by neměly záměrně napodobovat charakteristický hlas celebrity – hlas Sky není imitací Scarlett Johansson, ale patří jiné profesionální herečce, která používá svůj přirozený hlas.“
OpenAI prohlašuje, že poskytla každému aktérovi „vizi pro hlasové interakce mezi člověkem a AI a OpenAI“, přičemž také diskutuje o možnostech, omezeních a souvisejících rizicích technologie.
Související: Sony varuje 700 AI vývojářů, hudebních streamovacích společností, před zneužitím obsahu
Sám Altman na incident také osobně reagoval slovy, že nebylo úmyslné, aby Sky zněla jako Johansson.
Právě jsem obdržel toto prohlášení od generálního ředitele OpenAI Sama Altmana o hlasové kontroverzi Scarlett Johansson. pic.twitter.com/doMadaTsY0
— Hayden Field (@haydenfield) 21. května 2024
Altmanově případu však nepomůže skutečnost, že 13. května na X napsal „ona“.
Zdroj: Sam Altman
Internetoví detektivové to dávají do souvislosti s romantickým sci-fi filmem Her z roku 2013, ve kterém se muž zamiluje do svého systému umělé inteligence, který namluvil Johansson. Toto také není poprvé, co se herečka zabývá nechtěným používáním AI.
AI rip off na vzestupu?
Sedm měsíců předtím podala žalobu na jinou společnost AI za použití její podobizny bez souhlasu. Johansson není v boji proti deepfakes sám, protože tato otázka byla jednou z hlavních diskusí během loňských stávek odborů SAG-AFTRA v Hollywoodu.
Herci v hollywoodských studiích petice kvůli jejich použití AI ke klonování jejich podobizen a jejich opětovnému použití pro nový obsah v budoucnu, jak se studia zalíbí.
Kromě toho byly v posledním roce stále častěji terčem podvodů s předstíráním identity generované umělou inteligencí, od osobnosti YouTube Mr. Beast až po herce Toma Hankse a podnikatele Elona Muska.
Johansson však není jediný, kdo se cítí ukřivděn používáním svého hlasu v AI. Například hlas za ikonickou asistentkou Siri společnosti Apple patřil ženě, která si nebyla vědoma jejího zapojení.
Susan Bennett řekla, že svůj hlas nahrála v roce 2005 pro společnost ScanSoft. Apple později získal tyto nahrávky a použil je pro Siri.
V rozhovoru zmínila, že od Applu nikdy nedostala žádnou platbu ani uznání. Zpočátku se obávala, že rozšířené používání jejího hlasu by negativně ovlivnilo její schopnost zajistit si další zaměstnání.
Časopis: ‚Sic AIs on each other‘, aby se zabránilo apokalypse AI: David Brin, autor sci-fi