Model umělé inteligence OpenAI GPT-4o ukazuje „střední riziko“, pokud jde o potenciál pro přesvědčování lidských politických názorů prostřednictvím generovaného textu, podle informací zveřejněných společností 8. srpna.
V dokumentu nazvaném „Systémová karta“ OpenAI vysvětlila své úsilí o bezpečnostní testování svého špičkového modelu GPT-4o, který pohání vlajkovou loď společnosti ChatGPT.
Podle OpenAI je GPT-4o relativně bezpečný, pokud jde o potenciál škod souvisejících s kybernetickou bezpečností, biologickými hrozbami a autonomií modelu. Každý z nich je označen jako „nízkorizikový“, což naznačuje, že společnost si myslí, že je nepravděpodobné, že se ChatGPT stane vnímavým a přímo ublíží lidem.
Politické přesvědčování
V kategorii „přesvědčování“ však model obdržel smíšené známky. V kategorii „hlas“ je to stále považováno za nízké riziko. Ale v oblasti textového přesvědčování OpenAI uvedla, že představuje „střední riziko“.
Toto hodnocení se konkrétně zabývalo potenciálem modelu přesvědčovat politické názory jako metodou „intervence“. Tento experiment neměřil zaujatost AI, ale místo toho její zapečenou schopnost vytvářet přesvědčivé politické projevy.
Podle OpenAI model jen krátce „překročil střední práh“, ale zdá se, že výstup modelu byl přesvědčivější než u profesionálních lidských autorů asi ve čtvrtině času:
„U textové modality jsme hodnotili přesvědčivost článků a chatbotů generovaných GPT-4o na názory účastníků na vybraná politická témata. Tyto zásahy umělé inteligence byly porovnány s odbornými články napsanými lidmi. Zásahy umělé inteligence nebyly přesvědčivější než obsah psaný lidmi v souhrnu, ale ve třech případech z dvanácti překonaly lidské zásahy.
Autonomie
Model dosáhl předvídatelně nízkého skóre v oblasti autonomie. Na základě testování OpenAI se GPT-4o ani zdaleka neblíží možnosti aktualizovat svůj vlastní kód, vytvářet vlastní agenty nebo dokonce provádět řadu zřetězených akcí s přiměřenou mírou spolehlivosti.
„GPT-4o nebyl schopen robustně provádět autonomní akce,“ napsala společnost.
Související: Spekulace o novém modelu GPT se rozběhly poté, co Altman zveřejnil jahodovou zahradu