Jako lidé je symbolika klíčem k pochopení světa kolem nás, je to způsob, jakým interpretujeme předměty, myšlenky a vztahy mezi nimi a mezi nimi.
Jsme zcela závislí na analogii, což je to, co dělá naši současnou výpočetní technologii extrémně spletitou, složitou a v tomto okamžiku archaickou.
Rostoucí popularita umělé inteligence (AI) a případy použití, se kterými se již setkáváme u ChatGPT od OpenAI, nemusí být nutně těmi nejlepšími aplikacemi, které přesahují pouhý „hype“ a inflaci akcií.
V rámci tradičních počítačů úplně nerozumíme tomu, co tyto umělé neuronové sítě (ANN) dělají nebo proč dokonce fungují tak dobře, jak fungují. Naprostý nedostatek transparentnosti také poskytuje velkou nevýhodu v našem chápání toho, jak jsou data shromažďována a analyzována, abychom vyplivli výsledky, ke kterým se tak zoufale připojujeme, že je začínáme označovat jako „pokrok“.
Zvažte následující příklad sítě ANN, která je schopna od sebe odlišit „kruhy“ a „čtverce“.
Jeden způsob, jak dosáhnout tohoto rozlišení, je zřejmý – pokud jedna výstupní vrstva označuje kruh a druhá označuje čtverec.
Ale co kdybyste chtěli, aby ANN rozeznala „barvu“ tohoto konkrétního tvaru – je „červená“ nebo „modrá“?
Vzhledem k tomu, že „barva“ je zcela samostatný soubor dat, vyžaduje další výstupní neurony, aby byly schopny zohlednit tuto vlastnost v konečném výstupu. V tomto případě by musely existovat čtyři výstupní neurony – každý pro modrý kruh, modrý čtverec, červený kruh a červený čtverec.
Co kdybychom nyní chtěli výpočet, který by zohledňoval i další informace, jako je „velikost“ nebo „pozice/umístění“?
Více prvků znamená více neuronů, které musí zohlednit každou možnost spojenou s definováním konkrétního prvku (nebo kombinace prvků) s „kruhem“ a „čtvercem“.
Jinými slovy, stává se neuvěřitelně složitým.
Bruno Olshausen, neurovědec z Kalifornské univerzity v Berkeley, nedávno hovořil o této potřebě mít neuron pro každou možnou kombinaci funkcí.
„Takto náš mozek nemůže vnímat přírodní svět se všemi jeho variacemi. Musíte navrhnout… neuron pro všechny kombinace,“ řekl a dále vysvětlil, že bychom v podstatě potřebovali „fialový detektor Volkswagen“ nebo něco tak nejasného, abychom mohli zohlednit každou možnou kombinaci informací, o kterých doufáme, že je vezmeme v úvahu. experiment.
Zadejte „hyperdimenzionální výpočty“.
Co je to „hyperdimenzionální výpočetní technika“?
Srdcem hyperdimenzionálního počítání je schopnost algoritmu dešifrovat konkrétní části informací z komplexních obrázků (přemýšlejte o metadatech) a poté tyto kolektivní informace reprezentovat jako jedinou entitu, známou jako „hyperdimenzionální vektor“.
Na rozdíl od tradičního počítání nám hyperdimenzionální výpočty umožňují řešit problémy symbolicky a v určitém smyslu, být schopni efektivně a přesně „předvídat“ výsledek konkrétního problému na základě dat obsažených v hyperdimenzionálním vektoru.
Olshausen mimo jiné tvrdí, že informace v mozku jsou reprezentovány aktivitou tuny neuronů, takže vnímání našeho fiktivního „fialového volkswagenu“ není možné obsáhnout činností jediného neuronu, ale místo toho prostřednictvím tisíců neuronů, které dohromady tvoří fialový Volkswagen.
Se stejnou sadou neuronů působících odlišně jsme mohli vidět zcela odlišný koncept nebo výsledek, jako je růžový Cadillac.
Klíčem je podle nedávné diskuse v WIRED to, že každá informace, jako je myšlenka auta nebo jeho značka, model, barva nebo všechny z nich dohromady, jsou reprezentovány jako jediná entita – hyperdimenzionální vektor nebo hypervektor.
„Vektor“ je pouze uspořádané pole čísel – 1, 2, 3 atd. – kde se 3D vektor skládá ze tří čísel – souřadnic x, y a z přesného bodu ve 3D prostoru.
Na druhé straně „hypervektor“ může být polem tisíců nebo stovek tisíc čísel, která představují bod v tomto množství dimenzionálního prostoru. Například hypervektor, který představuje pole 10 000 čísel, představuje bod v 10 000-rozměrném prostoru.
Tato úroveň abstrakce nám poskytuje flexibilitu a schopnost vyvíjet moderní výpočetní techniku a harmonizovat ji s novými technologiemi, jako je umělá inteligence (AI).
"To je věc, ze které jsem byl nejvíce nadšený, prakticky za celou svou kariéru," řekl Olshausen. Jemu a mnoha dalším slibuje hyperdimenzionální výpočty nový svět, ve kterém je výpočetní technika efektivní a robustní a rozhodnutí učiněná strojem zcela transparentní.
Transformace „metadat“ do hyperdimenzionálních algoritmů pro generování komplexních výsledků
Základní algebra nám říká, proč systém zvolil tuto konkrétní odpověď, což nelze říci o tradičních neuronových sítích.
Při vývoji hybridních systémů, ve kterých tyto neuronové sítě dokážou zmapovat IRL na hypervektory a poté umožnit hyperdimenzionální algebře, aby převzala kontrolu, je jádrem toho, jak by měla být umělá inteligence použita, aby nám umožnila lépe porozumět světu kolem nás.
„To je to, co bychom měli očekávat od jakéhokoli systému AI,“ říká Olshausen. "Měli bychom tomu rozumět stejně jako rozumíme letadlu nebo televizi."
Vrátíme-li se k příkladu s „kruhy“ a „čtverci“ a použijeme je na vysokodimenzionální prostory, potřebujeme vektory, které reprezentují proměnné „tvar“ a „barva“ – ale také potřebujeme vektory, které reprezentují hodnoty, které mohou být přiřazeny k proměnným – „CIRCLE“, „SQUARE“, „BLUE“ a „RED“.
A co je nejdůležitější, tyto vektory musí být dostatečně odlišné, aby skutečně kvantifikovaly tyto proměnné.
Nyní se podívejme na Erica Weisse, studenta z Olshausenu, který v roce 2015 prokázal jeden aspekt jedinečných schopností hyperdimenzionálních počítačů v tom, jak nejlépe reprezentovat komplexní obraz jako jediný hyperdimenzionální vektor, který obsahuje informace o VŠECH objektech na obrázku – barvy, pozice, velikosti.
Jinými slovy, extrémně pokročilá reprezentace metadat obrázku.
"Prakticky jsem spadl ze židle," řekl Olshausen. "Najednou se rozsvítila žárovka."
V tu chvíli začalo více týmů zaměřovat své úsilí na vývoj „hyperdimenzionálních algoritmů“ pro replikaci „jednoduchých“ úkolů, kterými se hluboké neuronové sítě zabývaly již před dvěma desetiletími – jako je klasifikace snímků.
Vytvoření „hypervektoru“ pro každý obrázek
Pokud byste například měli vzít anotovanou datovou sadu, která se skládá z obrázků ručně psaných číslic, tento hyperdimenzionální algoritmus by analyzoval specifické vlastnosti každého obrázku a vytvořil by pro každý obrázek „hypervektor“.
Vytvoření „třídy“ hypervektorů pro každou číslici
Odtud by algoritmus přidal hypervektory pro všechny obrázky „nuly“, aby vytvořil hypervektor pro „myšlenku nuly“, a opakuje to pro všechny číslice, čímž vygeneruje 10 hypervektorů „tříd“ – jeden pro každou číslici.
Tyto uložené třídy hypervektorů jsou nyní měřeny a analyzovány proti hypervektoru vytvořenému pro nový, neoznačený obrázek pro účely algoritmu určujícího, která číslice nejvíce odpovídá novému obrázku (na základě předem určené třídy hypervektorů pro každou číslici).
IBM Research se ponoří
V březnu Abbas Rahimi a dva kolegové z IBM Research v Curychu použili hyperdimenzionální výpočty s neuronovými sítěmi k vyřešení klasického problému abstraktního vizuálního uvažování – něco, co představovalo významnou výzvu pro typické ANN a dokonce i pro některé lidi.
Tým nejprve vytvořil „slovník“ hypervektorů pro reprezentaci objektů na každém obrázku, kde každý hypervektor ve slovníku představoval konkrétní objekt a nějakou kombinaci jeho atributů.
Odtud tým trénoval neuronovou síť, aby prozkoumala obrázek a vytvořila bipolární hypervektor – kde konkrétní atribut nebo prvek může být +1 nebo -1.
"Navádíte neuronovou síť do smysluplného konceptuálního prostoru," řekl Rahimi.
Zde platí, že jakmile síť vygeneruje hypervektory pro každý z kontextových obrázků a pro každého kandidáta na prázdný slot, použije se jiný algoritmus k analýze hypervektorů k vytvoření „rozložení pravděpodobnosti“ pro řadu objektů v obrázku.
Jinými slovy, algebru lze použít k předpovědi nejpravděpodobnějšího kandidátského obrazu, který zaplní prázdný slot. A přístup týmu přinesl téměř 88procentní přesnost u jedné sady problémů, kde pouze řešení neuronové sítě byla přesná méně než 61 procent.
Jsme stále v plenkách
Navzdory mnoha výhodám je hyperdimenzionální počítání stále v plenkách a vyžaduje testování proti reálným problémům a v mnohem větším měřítku, než jaké jsme dosud viděli – například potřeba efektivně vyhledávat přes 1 miliardu položek nebo výsledků. a najít konkrétní výsledek.
Nakonec to přijde časem, ale přináší to otázky, kde a jak aplikujeme a integrujeme použití umělé inteligence.
Přečtěte si, jak 40minutová bohoslužba poháněná umělou inteligencí přilákala v Německu více než 300 účastníků jako první experiment svého druhu.
Kliknutím sem zobrazíte celou galerii na Hypemoon