V kontextu rychlého rozvoje umělé inteligence (AI) výzkum Google DeepMind naznačuje důležité faktory k dosažení umělé super inteligence (ASI).

V posledních letech udělaly platformové modely velký pokrok a jsou široce používány v mnoha aplikacích. Velkou výzvou však zůstává vytvoření průkopnických systémů umělé inteligence (AI), schopných sebezdokonalování a neustálého generování nových informací. Zpráva Edwarda Hughese a jeho spoluautorů ukazuje, jak otevřená povaha ovlivňuje vývoj ASI a jak této povahy dosáhnout v dnešních systémech umělé inteligence.

Formální definice otevřenosti je dána na základě dvou hlavních aspektů: novosti a schopnosti učit se. Systém je považován za otevřený, pokud neustále generuje nová data, která mají hodnotu učení pro zlepšení porozumění a dovedností pozorovatele.

Článek poskytuje mnoho konkrétních příkladů současných systémů umělé inteligence, které tento koncept ilustrují. AlphaGo je typickým příkladem úzce otevřeného systému. AlphaGo překonala světové nejlepší hráče Go tím, že vyvinula nové, nepředvídatelné strategie. Otevřenost AlphaGo je však omezena na hru Go.

Dalším příkladem je systém AdA, výukový agent v prostředí 3D XLand2 s 25 miliardami variant úloh. AdA je schopen akumulovat komplexní a různorodé dovednosti, ale jeho novost má tendenci po určité době tréninku mizet. To naznačuje, že pro zachování otevřenosti je zapotřebí bohatší prostředí a silnější aktéři.

Článek také pojednává o evolučních systémech, jako je POET (Paired open-ended průkopník), kde se agenti a prostředí společně vyvíjejí. POET ilustruje fenomén „odrazového můstku“, kdy se agenti mohou vypořádat s velmi náročnými prostředími prostřednictvím postupného vývoje. Tyto systémy však také čelí omezením, když prostředí není dostatečně komplexní, aby si udrželo otevřenost.

Kromě toho článek také uvádí, že současné modely platforem nesplňují kritéria otevřenosti, pokud jsou trénovány pouze na pevných souborech dat. Tyto modely se mohou v širokých oblastech jevit jako otevřené, ale když se zúží, odhalují omezení v jejich schopnosti generovat nová a přesná řešení.

Autoři navrhují čtyři hlavní směry výzkumu, jak spojit otevřenost s platformovými modely: posílení učení (RL), sebezdokonalování, generování úkolů a evoluční algoritmy. Posílené učení dosáhlo velkého úspěchu v úzkých oblastech a modely jako Voyager prokázaly potenciál sebezdokonalování budováním knihovny dovedností z neustále se zlepšujících úkolů. Evoluční algoritmy také poskytují slibnou cestu k vytváření otevřených systémů se schopností implementovat smysluplné mutace prostřednictvím textu.

Důležitou součástí článku je diskuse o otázkách bezpečnosti a odpovědnosti při vývoji otevřených systémů. Otevřenost přináší mnoho bezpečnostních rizik, včetně dezinterpretace cílů a zneužití specifikací. Je důležité zajistit, aby bylo možné otevřené systémy interpretovat a ovládat v lidských rukou. To vyžaduje, aby systémy byly schopny vysvětlit a komunikovat s lidmi jasným a srozumitelným způsobem.

Ve zprávě autoři tvrdí, že současné modely platforem dosáhly významného pokroku, ale pro posun směrem k ASI je nutné vyvinout otevřené systémy. Tyto systémy mohou společnosti přinést obrovské výhody, včetně urychlení vědeckých a technologických objevů, posílení lidské kreativity a rozšíření obecných znalostí v mnoha oblastech.

Dokument Google DeepMind otevřel nový směr ve výzkumu AI a zdůraznil důležitost otevřenosti při dosahování umělé superinteligence. Odpovědný vývoj těchto systémů pomůže zajistit, že společnosti přinášejí maximální přínosy a zároveň minimalizují potenciální rizika.