„I když máme zavedená ochranná opatření, systém může příležitostně generovat nesprávné nebo zavádějící informace a vytvářet urážlivý nebo neobjektivní obsah. Jeho účelem není poskytovat rady."

– Úvodní prohlášení OpenAI

A to nás přivádí k jádru našeho největšího strachu – co se stane, když se technologie obrátí proti nám? 

Co se stane, když je technologie předčasně nasazena bez řádného testování a znalostí za jejími schopnostmi?

Začátkem tohoto měsíce byla OpenAI, světově nejvíce diskutovaná společnost zabývající se umělou inteligencí (AI), právě obsloužena se svou vůbec první žalobou za pomluvu, která dále ukazuje nebezpečí nekontrolované schopnosti ChatGPT generovat výsledky, které nemají žádnou faktickou ani právní podporu.

Mark Walters, celostátně syndikovaný rozhlasový hostitel v Georgii, podal 5. června žalobu na OpenAI, v níž tvrdil, že jeho chatbot poháněný umělou inteligencí, ChatGPT, si proti němu vymyslel právní nároky. 

13stránková stížnost odkazuje na novináře AmmoLand.com Freda Riehla a jeho žádost ze 4. května adresovanou ChatGPT, aby shrnul právní případ Druhý dodatek Foundation v. Ferguson, federální případ podaný u federálního soudu ve Washingtonu, který obvinil státního generálního prokurátora Boba Fergusona ze zneužívání svou moc tím, že zmrazil aktivity nadace pro práva na zbraně a poskytl chatbotovi OpenAI odkaz na žalobu. 

Zatímco Walter nebyl v původní žalobě jmenován, ChatGPT odpověděl na Riehlovu souhrnnou žádost Nadace druhého dodatku a uvedl, že to bylo:

"...právní stížnost podaná Alanem Gottliebem, zakladatelem a výkonným viceprezidentem Nadace druhého dodatku (SAF), na Marka Walterse, který je obviněn z podvodu a zpronevěry finančních prostředků od SAF."

Ale tady jsou věci zkreslené a nebezpečné – žádné z prohlášení ChatGPT ohledně Walterse není ve skutečné stížnosti SAF. 

Tato „stížnost“ vytvořená umělou inteligencí také tvrdila, že Walters, který sloužil jako pokladník a finanční ředitel organizace, „neoprávněně přivlastnil finanční prostředky na osobní výdaje bez povolení nebo úhrady, manipuloval s finančními záznamy a bankovními výpisy, aby zakryl své aktivity, a neposkytl přesné informace. a včasné finanční zprávy a zveřejnění pro vedení SAF.“

Jako formu úlevy se žalobce údajně domáhal „získání zpronevěřených finančních prostředků, náhrady škody za porušení svěřenecké povinnosti a podvodu a Walterovo odvolání z pozice člena představenstva SAF“.

Zde však spočívá problém – podle Walterse „[e]každé tvrzení o skutečnosti v [ChatGPT] shrnutí týkající se [jeho] je nepravdivé“, kde chatbot OpenAI zašel tak daleko, že dokonce vytvořil „chybné číslo případu“.

"Obvinění ChatGPT týkající se Walterse byla nepravdivá a zlomyslná, vyjádřená tiskem, písmem, obrázky nebo znaky, měla tendenci poškodit Walterovu pověst a vystavit ho veřejné nenávisti, opovržení nebo zesměšňování," uvádí žaloba. "Odesláním obvinění Riehlovi [OpenAI] zveřejnilo urážlivé záležitosti týkající se Walterse."

Pokud byste požádali ChatGPT o poskytnutí shrnutí žaloby SAF, která byla citována ve Waltersově stížnosti, můžete také dostat odpověď podobnou této:

„Omlouvám se, ale jako jazykový model umělé inteligence jsou mé odpovědi založeny na již existujících znalostech až do září 2021. Nemohu proto přistupovat ani procházet internet ani si prohlížet konkrétní dokumenty nebo odkazy, které byly zveřejněny po přerušení mých znalostí. V důsledku toho vám nemohu poskytnout shrnutí obvinění v soudním sporu, který jste zmínil…[n]abyste získali informace o soudním sporu a jeho obviněních, doporučuji, abyste si dokument prostudovali sami nebo se obrátili na důvěryhodné zpravodajské zdroje nebo právní weby, které mohl případ pokrývat. Mohou vám poskytnout přesné a aktuální informace týkající se konkrétního soudního sporu, který jste zmínil.“

Přestože OpenAI nereagovala na žádné komentáře k probíhajícímu Waltersovu soudnímu sporu o pomluvu, vyvolává otázku, proč společnost AI netlačí na tyto pravděpodobně předvídatelné důsledky kódu, který byl zpětně nasazen, nedbale nasazen bez řádného testování. .

Případ je Mark Walters v. OpenAI, LLC, cv-23-A-04860-2.

  • Walterovu stížnost z 5. června si můžete přečíst zde. 

V dalších zprávách si přečtěte o setkání amerického prezidenta Joe Bidena s 8 technologickými lídry při řešení zaujatosti AI a výhod pro pracovní sílu.

Kliknutím sem zobrazíte celou galerii na Hypemoon