Umělá inteligence (AI) převzala moderní život, zejména při vytváření písemného obsahu. I když je to všechno zábava a hry, nepřesnost v detekci obsahu AI je alarmující. Horší je, že detektory AI označují lidský psaný obsah jako generovaný GPT; Případová studie Ústava Spojených států.

Přečtěte si také: Paul Graham z Y Combinatoru zabouchl za tvrzení, že texty s „Delve“ jsou napsány AI

Ústava Spojených států byla sepsána v roce 1787, ratifikována v roce 1788 a v platnosti je od roku 1789. Jde o nejdéle přežívající písemnou chartu vlády na světě. Ústava byla asi sto let předtím, než bylo vynalezeno první auto. Detektor AI však označil, že je 97,97 % vytvořeno AI.

Detektory AI označují americkou ústavu jako nelidskou

V roce 2023 došlo k nárůstu písemného obsahu umělé inteligence. Brzy poté vývojáři trhu využili příležitosti a vytvořili detektory, které informují o procentech obsahu AI. To by měl být dobrý pokrok, ale není tomu tak.

Detektor umělé inteligence označil ústavu Spojených států za obsah umělé inteligence. Procento? Uzavření 97,97 %. Termín „umělá inteligence“ byl vytvořen a stal se populárním při zrodu umělé inteligence v letech 1950 až 1956. Jak tedy umělá inteligence mohla napsat dokument o 163 let starší než její vynález?

Zdroj: Zerogpt.com

V roce 1950 publikoval Alan Turing článek v časopise s názvem „Počítačové stroje a inteligence“, v němž navrhl test strojové inteligence nazvaný The Imitation Game. Tento článek znamenal začátek světa, ve kterém dnes žijeme.

V roce 1952 počítačový vědec jménem Arthur Samuel vyvinul program pro hru dáma, který se jako první naučil tuto hru samostatně. Brzy poté, v roce 1955, uspořádal John McCarthy workshop v Dartmouthu o „umělé inteligenci“, což bylo slovo poprvé použité.

Detektory AI mají omezení

Detektory AI mají omezení, protože text generovaný AI napodobuje lidské psaní. Tyto detektory byly vycvičeny stejnými lidmi, kteří učili stroje psát. Jak by tedy jejich detektory AI fungovaly a jak přesné jsou? Další detektor umělé inteligence zaznamenal podle ústavy USA 1% obsah umělé inteligence. Kde se vzalo to 1%?

Zdroj: gptzero.me

No, tady je ten nepoměr: Některé detektory umělé inteligence vyhledávají určitá slova jako „ponořit se, tapisérie, využít, četné atd. které obvykle používá AI, ale pro Američany jsou neobvyklé. 

Pro některé lidi ze zemí s britskou koloniální historií se však tato slova běžně používají v mluveném i psaném jazyce.

Minulý měsíc se spoluzakladatel Y Combinator Paul Graham dostal pod palbu po teorii atribuce textu ChatGPT, kterou vytvořil na X (dříve Twitter). Graham zveřejnil chladný e-mailový návrh, který dostal od někoho na projekt, o kterém dospěl k závěru, že psal AI, protože obsahoval slovo „delve“.

Jeden uživatel X řekl: „Lidé, kteří se naučili anglicky v zemích s britskou koloniální minulostí – přesně takhle jsme se učili anglicky […] ‚Delve‘ je normální slovo, kterým mluvíme.“ Další řekl, že je to americký problém.

Některé země a lidé stále používají to, co bych popsal jako „literatura v angličtině“. Nešťastná věc je, že americký slovník je primárně založen na hovorových slovech (to, čemu říkáte slang) a současných amerických idiomech, a to do té míry, že sofistikované používání…

— Africa Research Desk (@MightiJamie) 10. dubna 2024

To vyvolává otázku, měly by být detektory umělé inteligence a generátory obsahu specifické pro regionální angličtinu? Nebo by měly být všechny tyto psací nástroje a detektory hotové?

Detektory umělé inteligence jsou nepřesné

Detektory umělé inteligence spoléhají na nekonzistentní jazykové vlastnosti. Lidský jazyk je ze své podstaty proměnlivý, má širokou škálu stylů, dialektů a idiomů. Text generovaný umělou inteligencí může spadat do těchto variací, což ztěžuje přesnost detektorů.

Přibližně 20 % textů generovaných umělou inteligencí projde těmito detekčními systémy nedetekováno, což podkopává spolehlivost detektorů umělé inteligence. Podobně je asi 25 % lidského psaného textu falešně označeno jako AI.

Jeden uživatel na Quora napsal: „Detektor AI detekuje mou práci jako 100% generovanou AI. Protože jsem to na žádost akademického poradce nevědomky použil jako nástroj pro editaci a gramatiku. Slova, koncept & životní zkušenost v již publikovaném díle jsou moje vlastní. Co mám dělat?"

Mnozí vyjádřili frustraci z tohoto problému. Nedávno ve zprávě zveřejněné společností Cryptopolitan generátor umělé inteligence označil slova, která vyslovil Donald Trump. Řekl: "Jsem velmi pozitivní a otevřený vůči kryptoměnovým společnostem a všem věcem souvisejícím s tímto novým a rozvíjejícím se průmyslem." ⁤Jak se AI přidává k mluvenému slovu? Je to v mysli člověka? Ve vyjádřených myšlenkách?

Další obsah byl od Davida Baileyho: „⁤ Zmobilizujeme se, abychom se bránili. ⁤⁤Nehlasujeme pro Trumpa jako takového, hlasujeme proti Bidenovi. ⁤⁤ Jediný, kdo za to může, je Biden. “

Čtěte také: Trumpova krypto kampaň – vše, co potřebujete vědět

V roce 2023 OpenAI zveřejnila tipy pro pedagogy v propagačním příspěvku na blogu, který ukazuje, jak někteří učitelé používají ChatGPT jako vzdělávací pomůcku.  

V části FAQ s názvem „Fungují detektory AI?“ OpenAI napsal: „Zkrátka ne. Zatímco některé (včetně OpenAI) vydaly nástroje, které mají za cíl detekovat obsah generovaný umělou inteligencí, žádný z nich neprokázal, že by spolehlivě rozlišoval mezi obsahem vytvořeným umělou inteligencí a obsahem vytvořeným lidmi.“ Problém s rozlišením lidského obsahu od obsahu AI zůstává. Otázka zní: Co je třeba udělat pro další postup?

Cryptopolitan reportuje Florence Muchai