#GPT-4 #ai #aiandbigdata #artificialintelligence
Přední odborníci na umělou inteligenci (AI) vyzývají k zastavení vývoje výkonnějších systémů umělé inteligence nad rámec ChatGPT OpenAI. Více než 1100 osob z oboru podepsalo petici za pozastavení výzkumu na šest měsíců a vývoj sdílených bezpečnostních protokolů.
Odborníci na umělou inteligenci, včetně Elona Muska, Stuarta Russella a Steva Wozniaka, vyzývají vývojáře, aby pozastavili tvorbu výkonnějších modelů umělé inteligence. Více než 1 100 lidí v oboru podepsalo petici za zastavení školení systémů umělé inteligence, které jsou výkonnější než nejnovější model ChatGPT od OpenAI, po dobu nejméně šesti měsíců, což umožní vývoj sdílených bezpečnostních protokolů.
V otevřeném dopise zveřejněném na webu Future of Life Institute se uvádí, že laboratoře umělé inteligence soutěží o vytvoření stále výkonnějších digitálních myslí, kterým nikdo nemůže spolehlivě porozumět, předvídat nebo ovládat. Odborníci se domnívají, že výkonnější systémy umělé inteligence bychom měli vyvíjet pouze tehdy, když jsme si jisti, že jejich účinky budou pozitivní a rizika zvládnutelná.
Tato petice přichází poté, co bylo v posledních měsících spuštěno několik projektů umělé inteligence, které provádějí lidské úkoly, jako je psaní e-mailů a vytváření umění. Společnost OpenAI, podporovaná společností Microsoft Corp., uvedla tento měsíc na trh svůj GPT-4, což je významné vylepšení svého chatbota poháněného umělou inteligencí, který je schopen vyprávět vtipy a složit vysoce složité zkoušky z předmětů, jako je právo.
Dopis vyzývá vývojáře, aby spolupracovali s tvůrci politik na vytvoření nových systémů řízení a dohledu pro AI. Vyzývá také vlády, aby zasáhly do vývoje systémů umělé inteligence, pokud hlavní aktéři nebudou souhlasit s veřejnou a ověřitelnou pauzou.
Signatáři petice chtějí, aby se výzkum a vývoj AI zaměřil na to, aby byly současné systémy přesnější, bezpečnější, interpretovatelné, transparentní, robustní, sladěné, spolehlivé a loajální.
