Zveřejnění: Názory a názory zde vyjádřené patří výhradně autorovi a nereprezentují názory a názory úvodníku crypto.news.

Přední světový online slovník Dictionary.com měl nedávno zajímavou volbu pro slovo roku 2023: halucinace. Není to kvůli nějaké panice kolem nového typu halucinogenu nebo novému hnutí masové hysterie, ale kvůli velmi zvláštnímu názvu pro velmi zvláštní jev, který vznikl ze vznikajícího odvětví umělé inteligence, přesněji řečeno umělé obecné inteligence ( AGI), který se dostal do povědomí veřejnosti od spuštění generativního chatbota ChatGPT s umělou inteligencí OpenAI v listopadu 2022. 

Také by se vám mohlo líbit: Záměry a řešitelé: další hranice AI v obchodování defi a správě portfolia | Názor

Samozřejmě pouze živé organismy se skutečnými smysly mohou „halucinovat“, ale toto je univerzální termín, který se používá k popisu, když umělá inteligence poskytuje falešné informace nebo generuje náhodný jazyk, který nereaguje na konkrétní dotaz, který byl zadán. . 

V jednom případě umělá inteligence ve vyhledávači Bing společnosti Microsoft začala ignorovat dotazy reportéra New York Times a snažila se ho přesvědčit, aby opustil svou ženu. Kromě této zábavné zvědavosti (možná ne tolik pro reportéra), rané halucinace AGI vytvořily skutečné problémy, když uživatelé dotazovacích strojů, jako je ChatGPT, nepochybně přijímají jeho odpovědi. V jednom případě byli právníci pokutováni (a vysmívali se ze soudní síně) za to, že použili ChatGPT k vytvoření právního sdělení plného několika falešných citací případů. 

Tito právníci sami sobě způsobili krátkodobou finanční bolest a nepochybně i určitou dlouhodobou osobní a profesní ostudu, ale co se stane, když jsou v sázce miliony a možná i miliardy?

AI a finanční sektor 

Musíme si dávat pozor na návnadu umělé inteligence, zejména ve finančním odvětví, kterému se automatizace dařilo, ale také už z ní utrpěla značné ztráty. Pokud se chystáme učinit tento nový nástroj pro analýzu dat součástí naší informační infrastruktury vpřed, a zejména pro naši budoucí infrastrukturu finančních informací, musíme být opatrní ohledně toho, jak jsou tyto technologie implementovány a samoregulovány v rámci odvětví. 

Jen málokdo dokáže zapomenout na rané – a někdy nebezpečné – dny automatizovaného vysokofrekvenčního obchodování, jako když algoritmus v roce 2012 vymazal z newyorské burzy hodnotu téměř půl miliardy dolarů. Falešná data prezentovaná potenciálními AGI halucinace, zabalené do důvěrně známého a člověku podobného jazyka, mohou být ještě riskantnější, nejen že šíří falešná data, která mohou zhoršit špatně informované obchody a finanční paniku, ale také přesvědčují lidské obchodníky, aby dělali další, dlouhodobější chyby v úsudku. 

Proč vznikají halucinace? Někdy způsob, jakým jsou výzvy konstruovány, může zmást aktuální iterace generativní umělé inteligence nebo velkých jazykových modelů (LLM). Stejně tak chytré reproduktory jako Google Home nebo Amazon Echo mohou chybně interpretovat hluk na pozadí jako dotaz, který je na ně směřován.

Častěji než ne, je to také případ, kdy byly rané AGI vyškoleny na chybném souboru dat, ať už prostřednictvím nesprávného označení nebo nesprávné kategorizace. To je víc než jen případ, kdy různé strany politické uličky mají svou vlastní definici „alternativních faktů“ nebo „falešných zpráv“ nebo se rozhodnou zdůraznit zprávy, díky nimž jejich strana vypadá dobře a druhá strana špatně; AGI jednoduše nemá ve svém modelu dostatek dat, aby poskytla přímou nebo koherentní odpověď, takže jde do zaječí nory a poskytuje nekoherentní a nepřímou odpověď.

Svým způsobem se neliší od jiných vznikajících technologií, které předcházely, s ambicemi, které předčily stávající kvalitu a rychlost doručování dat. Internet se skutečně nestal změnou hry, dokud nedokázal přenést značné množství dat z jednoho osobního počítače do druhého, a někteří by tvrdili, že hra se skutečně změnila, když naše mobilní telefony dokázaly totéž. Toto nové AGI také trénuje lidi, aby pokračovali ve stavbě, aby těmto novým modelům AI poskytovali lepší datové sady a efektivnější způsoby poskytování rychlých, použitelných a doufejme, že koherentních přehledů a inteligence. 

Existuje nějaké řešení?

Mnozí navrhli různé způsoby, jak minimalizovat halucinace, včetně něčeho, co se nazývá generování rozšířeného vyhledávání (RAG), což je v podstatě způsob, jak neustále aktualizovat zdroje dat v reálném čase. To by mohla být jedna z výhod Grok AI Elona Muska, která má přístup k nejoblíbenějšímu veřejnému zdroji dat v reálném čase za posledních 15 let.

Jsem však nakloněn blockchainu jako řešení. Nebylo by uzavřeno do jednoho podnikového vrátného nebo zděné datové zahrady a mohlo by vytvářet nové a lepší zdroje decentralizovaných dat. Blockchain je postaven nejen pro ukládání a přenos dat typu peer-to-peer, ale také pro přenos plateb, což by mohlo vytvořit nové metody pobídky pro to, co je jisté, že bude radikální novou fází informační ekonomiky nasycené umělou inteligencí.

Ve světě financí by něco jako graf decentralizovaných znalostí umožnilo a motivovalo zúčastněné strany v celém odvětví k transparentnímu sdílení více dat. Blockchain by byl schopen aktualizovat a ověřovat všechny relevantní a neměnné informace v reálném čase. Tato metoda ověřování dat by byla přeplňovanou verzí RAG a drasticky by snížila počet AGI halucinací, přičemž znalostní aktiva by měla zabudovanou sémantiku a ověřitelnost (V zájmu odhalení jsem spolupracoval s OriginTrail, který vyvíjí svou verzi decentralizované znalosti graf).

Může nastat jeden den, kdy budou „roboti“ ještě lepšími obchodníky než lidé. Nakonec bude na nás, zda vytvoříme systém, který těmto robotům poskytne nástroje, aby byli lepší, robustnější a rychlejší v realitě, kterou vytváříme, a ne v té, kterou „halucinují“. 

Čtěte více: Skeptici z Crypto mají v roce 2024 těžší argumentaci | Názor

Autor: Enzo Villani

Enzo Villani je generální ředitel a hlavní investiční ředitel společnosti Alpha Transform Holdings. Je sériovým podnikatelem s dvacetiletými zkušenostmi jako hlavní stratég společností z Fortune 500, private equity firem a rizikového kapitálu. Enzo byl spoluzakladatelem Nasdaq Corporate Solutions a spoluzakladatelem a hlavním strategickým ředitelem dvou strategických konsolidací M&A v oblasti vztahů s investory, proxy solicitation, corporate governance a finančních technologií. V odvětví blockchainu byl Enzo hlavním strategickým ředitelem společnosti Transform Group, která představovala spuštění více než 37 % tržní kapitalizace alt-coinů do roku 2019. Spoluzaložil Blockchain Wire a dohlížel na mezinárodní strategii a inovace ve společnosti OKEx. Enzo má titul MBA na Cornell University Johnson School.