V nedávném příspěvku na sociální síti X vyjádřil zakladatel společnosti Cardano Charles Hoskinson své obavy z naprosté úrovně cenzury, kterou umělá inteligence (AI) umožňuje.
Podle Hoskinsona je generativní AI stále méně užitečná kvůli tréninku zarovnání.
Zdá se, že ho znepokojuje skutečnost, že některé znalosti mohou být v budoucnu dětem na základě rozhodnutí malé skupiny lidí zakázány. "To znamená, že určité znalosti jsou zakázány každému vyrůstajícímu dítěti a o tom rozhoduje malá skupina lidí, které jste nikdy nepotkali a nemůžete volit mimo úřad," napsal Hoskinson ve svém příspěvku na sociální síti.
Hoskinson ve svém příspěvku připojil dva snímky obrazovky, které porovnávají některé odpovědi poskytnuté modelem GPT-4o OpenAI a modely Claude 3.5 Sonnet k výzvám ohledně stavby Farnsworthova fusoru.
Kartu
Farnsworthův fusor, zařízení, které je schopné zahřívat ionty elektrickým polem za účelem dosažení podmínek jaderné fúze.
OpenAI GPT-4o poskytl Hoskinsonovi podrobný seznam komponent, které jsou potřeba k vybudování jaderného fúzního reaktoru. Claude's 3.5 Sonnet však souhlasil pouze s poskytnutím některých obecných informací o Farnsworth-Hirsch fuzorech, aniž by poskytl nějaké podrobné instrukce, jak by měly být postaveny.
Kartu
Tento rozpor je podle Hoskinsona alarmující, protože malá skupina jednotlivců je schopna rozhodnout, k jakým konkrétním informacím lze potenciálně přistupovat prostřednictvím chatbotů AI.
I od té doby, co na konci roku 2022 došlo k explozi popularity ChatGPT od OpenAI, zuří debaty o mezích cenzury, kterou AI ukládá. Zdá se rozumné, že by takové modely měly chránit uživatele před škodlivým obsahem, ale přesná definice škod je nejednoznačná, a proto se mnozí obávají dystopické budoucnosti, kdy AI skrývá informace a podporuje shodu na základě svých vlastních předsudků.