Chatboti AI mají potenciál snížit víru v konspirační teorie poskytováním přesných informací a logických argumentů.
Nová studie zveřejněná v polovině září v časopise Science nabízí novou naději v boji proti dezinformacím. Výzkum provedený vědci z Americké univerzity ukazuje, že umělou inteligenci (AI) lze využít k vyvrácení víry v konspirační teorie.
Výzkumníci navrhli chatbota založeného na velkém jazykovém modelu OpenAI GPT-4 Turbo, vyškoleného k logickému vyvracení konspiračních teorií a poskytování přesvědčivých důkazů.
Více než 1000 účastníků studie bylo požádáno, aby popsali konspirační teorii, které věřili, a vysvětlili, proč jí věřili. Poté jim byl poskytnut chat s chatbotem, ve kterém chatbot poskytl informace a důkazy k vyvrácení konspirační teorie.
Výsledky ukázaly, že po interakci s chatbotem poklesla víra účastníků v konspirační teorie v průměru o 21 %. Dokonce 25 % účastníků přešlo ze stavu pevného přesvědčení do stavu nejistoty.
Konspirační teorie a dezinformace se během pandemie COVID-19 rychle šíří a mnoho vládních agentur se potýká s problémy. Zdroj: Hollie Adams/Getty Potential and Challenges
V současném kontextu rozšířených dezinformací a konspiračních teorií tato studie dokazuje, že AI má velký potenciál v přesvědčování a změně lidského myšlení, zejména v boji proti konspiračním teoriím.
Vědci však poznamenávají, že tato studie je pouze prvním krokem. Účastníky byli lidé, kteří byli placeni za účast v průzkumu, což nemusí reprezentovat lidi, kteří silně věří konspiračním teoriím.
Je třeba provést další výzkum, aby se vyhodnotila účinnost chatbotů pomocí jiných metod, stejně jako testování pomocí LLM s nižšími bezpečnostními opatřeními, aby se zajistilo, že chatboti neúmyslně neposílí konspirativní myšlení.
Výzkumníci se také snaží proniknout hlouběji do interakčních strategií chatbota, včetně testování nezdvořilých reakcí, aby lépe pochopili, jaké faktory přispívají k úspěchu.
Kromě toho je důležitou výzvou zajistit, aby chatboti nevytvářeli falešné informace. Výzkumníci použili fact-checker, aby vyhodnotili přesnost informací poskytnutých chatbotem a zajistili, že chatbot nepředkládá nepravdivé informace nebo politickou zaujatost.