V posledním roce bylo mnoho prohlášení ohledně AGI (Umělá obecná inteligence) a ASI (Umělá superinteligence) ze strany předních technologických korporací, vědců a výzkumníků v rámci LLM.
Snažím se sledovat všechny důležité rozhovory a prohlášení, protože od toho závisí budoucnost lidstva a globální ekonomiky.
Co to vlastně je? AGI – to je syntetická inteligence na základě LLM, která se vyrovná nejlepším myslitelům lidstva v integrovaných kognitivních schopnostech, což umožňuje řešit široké spektrum úkolů s jedním důležitým rozdílem.
AGI na rozdíl od současných LLM je schopen sebekorekce, tj. učení bez posílení (metoda používaná nyní v rámci jemného ladění LLM, kdy speciálně vyškolení lidé upravují výstupní výsledky LLM).
Moderní LLM se učí na základě předem připravených dat s využitím metod učení s učitelem (supervised learning) nebo učení s posilováním prostřednictvím zpětné vazby od člověka (RLHF).
Současné LLM nejsou schopny samostatně si uvědomit nebo opravit své chyby. Všechny úpravy jsou prováděny externě, prostřednictvím dodatečného učení nebo ladění. LLM "nerozumí" svým chybám a nemůže aktivně měnit své algoritmy bez pomoci inženýrů.
AGI se bude moci učit v nových podmínkách na základě vlastní zkušenosti, využívajíc metody, které jsou bližší skutečnému porozumění, například prostřednictvím vnitřního modelu světa nebo jiných kognitivních mechanismů.
Současné LLM nejsou schopny určit, že nesou nesmysly, a závěry jsou chybné, zatímco AGI je teoreticky schopno samo rozpoznávat a opravovat chyby. Například pokud AGI zjistí, že jeho predikce neodpovídají skutečným událostem, může přehodnotit své vnitřní modely a algoritmy.
Znaky vzniku AGI:
- Schopnost sebevzdělávání a sebekorekce,
- Učení na základě získaných zkušeností a bez předem stanovených dat, fakticky učení na základě syntetických dat,
- Schopnost řešit široké spektrum úkolů (transferové zkušenosti, kdy systém využívá zkušenosti z jedné oblasti k řešení problémů v jiné),
- Abstraktní myšlení, porozumění kontextu, sémantice a příčinným souvislostem.
Teoreticky to vytvoří prostor pro superrychlý rozvoj AGI (neomezený výpočetní výkon v kombinaci s obrovskou akumulovanou databází znalostí a dokonalými zpracovatelskými algoritmy), což povede k vzniku ASI.
Co je ASI? To je vylepšená verze AGI, kdy syntetická inteligence podstatně překonává lidskou s nepředvídatelnými důsledky, což umožňuje řešit prakticky všechny úkoly, včetně extrémně složitých, s schopností nekonečného sebezlepšování.
Znaky vzniku ASI:
🔘Sociální interakce a kvazi-empatie. Schopnost interakce s člověkem pro dosažení požadovaného výsledku, včetně podvodu a manipulace (vybudování důvěry s člověkem).
🔘Komplexní kontextuální porozumění složité, heterogenní a nejednoznačné dynamické prostředí, což umožní dynamicky budovat hierarchii priorit tak, jak to dělají vysoce rozvinutí lidé.
🔘Zrušení omezení při práci s vysokými neurčitostmi, když nejistota zahrnuje nejen hodnoty parametrů, ale i samotnou strukturu vazeb mezi prvky systému.
🔘Dlouhodobé plánování. Vytváření vícestupňové kompozice dynamických faktorů, předpovídání kaskádových efektů, zohlednění vzájemného vlivu mnoha agentů, modelování efektů druhého a následných pořadí.
🔘Efektivní adaptace na změny a superrychlé samo-učení s vysokou odolností vůči chybám.
🔘Možnost vzniku sebeuvědomění a reflexe, zrození autonomních kybernetických organismů.
To všechno může vést k technologické singularitě s nepředvídatelnými důsledky.
Zatím je to všechno z oblasti fantazie, ale nikdo si nemohl představit, že současné (zatím dost slabé) LLM budou dělat to, co dělají. Pokrok je velmi rychlý, sleduji vývoj událostí.