Umělá inteligence (AI) přináší revoluci v různých sektorech tím, že vylepšuje možnosti zpracování dat a rozhodování nad lidské limity. Jak jsou však systémy umělé inteligence stále sofistikovanější, stávají se stále neprůhlednějšími, což vyvolává obavy z transparentnosti, důvěry a spravedlnosti. 

Povaha „černé skříňky“ typická pro většinu systémů AI často nutí zúčastněné strany pochybovat o původu a spolehlivosti výstupů generovaných AI. V reakci na to se objevily technologie jako Explainable AI (XAI), které se snaží demystifikovat operace AI, i když často nedokážou plně objasnit její složitost.

Jak se složitosti AI neustále vyvíjejí, roste i potřeba robustních mechanismů, které zajistí, že tyto systémy budou nejen efektivní, ale také důvěryhodné a spravedlivé. Vstupte do technologie blockchain, která je známá svou klíčovou rolí při zvyšování bezpečnosti a transparentnosti prostřednictvím decentralizovaného vedení záznamů.

Blockchain má potenciál nejen pro zabezpečení finančních transakcí, ale také pro naplnění operací AI vrstvou ověřitelnosti, které bylo dříve obtížné dosáhnout. Má potenciál řešit některé z nejtrvalejších problémů umělé inteligence, jako je integrita dat a sledovatelnost rozhodnutí, což z ní činí klíčovou součást při hledání transparentních a spolehlivých systémů umělé inteligence.

Chris Feng, COO společnosti Chainbase, nabídl své postřehy na toto téma v rozhovoru pro crypto.news. Podle Fenga, i když integrace blockchainu nemusí přímo vyřešit každý aspekt transparentnosti AI, zlepšuje několik kritických oblastí.

Může technologie blockchain skutečně zvýšit transparentnost v systémech umělé inteligence?

Technologie blockchain neřeší hlavní problém vysvětlitelnosti v modelech umělé inteligence. Je důležité rozlišovat mezi interpretovatelností a transparentností. Primární důvod pro nedostatek vysvětlitelnosti v modelech AI spočívá v povaze černých skříněk hlubokých neuronových sítí. Přestože rozumíme procesu vyvozování, nechápeme logický význam každého zúčastněného parametru.

Jak tedy technologie blockchain zvyšuje transparentnost způsoby, které se liší od vylepšení interpretovatelnosti nabízených technologiemi, jako je IBM's Explainable AI (XAI)?

V kontextu vysvětlitelné umělé inteligence (XAI) se k pochopení jejich funkčnosti používají různé metody, jako je statistika nejistoty nebo analýza výstupů a gradientů modelů. Integrace technologie blockchain však nemění interní uvažování a tréninkové metody modelů umělé inteligence, a tudíž nezlepšuje jejich interpretovatelnost. Nicméně blockchain může zlepšit transparentnost tréninkových dat, postupů a kauzálních závěrů. Technologie blockchain například umožňuje sledování dat používaných pro trénování modelů a začleňuje příspěvky komunity do rozhodovacích procesů. Všechna tato data a postupy lze bezpečně zaznamenat na blockchainu, čímž se zvýší transparentnost procesů konstrukce i odvození modelů AI.

Vezmeme-li v úvahu všudypřítomný problém zkreslení v algoritmech AI, jak účinný je blockchain při zajišťování původu a integrity dat v průběhu životního cyklu AI?

Současné blockchainové metodologie prokázaly významný potenciál v bezpečném ukládání a poskytování tréninkových dat pro modely AI. Využití distribuovaných uzlů zvyšuje důvěrnost a bezpečnost. Bittensor například využívá přístup distribuovaného školení, který distribuuje data mezi více uzlů a implementuje algoritmy, které zabraňují podvodům mezi uzly, čímž se zvyšuje odolnost trénování distribuovaného modelu AI. Kromě toho je prvořadá ochrana uživatelských dat během vyvozování. Ritual například šifruje data před jejich distribucí do uzlů mimo řetězec pro odvození výpočtů.

Také by se vám mohlo líbit: Umělá inteligence může dát krypto zločinům nový rozměr, říká Elliptic

Má tento přístup nějaká omezení?

Významným omezením je dohled nad zkreslením modelu vyplývajícím z trénovacích dat. Konkrétně se často zanedbává identifikace zkreslení v modelových predikcích souvisejících s pohlavím nebo rasou vyplývající z tréninkových dat. V současné době ani technologie blockchainu, ani metody debiasingu modelu AI účinně nezaměřují a neodstraňují zkreslení prostřednictvím technik vysvětlitelnosti nebo debiasingu.

Myslíte si, že blockchain může zvýšit transparentnost fází ověřování a testování modelů AI?

Společnosti jako Bittensor, Ritual a Santiment využívají technologii blockchain k propojení inteligentních smluv v řetězci s výpočetními schopnostmi mimo řetězec. Tato integrace umožňuje on-chain inferenci, zajišťuje transparentnost napříč daty, modely a výpočetním výkonem, čímž zvyšuje celkovou transparentnost celého procesu.

Jaké mechanismy konsenzu jsou podle vás nejvhodnější pro blockchainové sítě k ověření rozhodnutí AI?

Osobně se zasazuji o integraci mechanismů Proof of Stake (PoS) a Proof of Authority (PoA). Na rozdíl od konvenčních distribuovaných výpočtů vyžadují tréninkové a inferenční procesy AI konzistentní a stabilní zdroje GPU po dlouhou dobu. Proto je nezbytné ověřit účinnost a spolehlivost těchto uzlů. V současnosti jsou spolehlivé výpočetní zdroje primárně umístěny v datových centrech různých měřítek, protože GPU spotřebitelské úrovně nemusí dostatečně podporovat služby AI na blockchainu.

Když se podíváte do budoucna, jaké kreativní přístupy nebo pokroky v technologii blockchain považujete za zásadní při překonávání současných problémů s transparentností v AI a jak by mohly přetvořit prostředí důvěry a odpovědnosti AI?

V současných aplikacích umělé inteligence založených na blockchainu vidím několik výzev, jako je řešení vztahu mezi debiasováním modelu a daty a využití technologie blockchain k detekci a zmírnění útoků black-box. Aktivně zkoumám způsoby, jak podnítit komunitu k provádění experimentů s interpretovatelností modelů a zvýšit transparentnost modelů umělé inteligence. Navíc přemýšlím o tom, jak může blockchain usnadnit transformaci umělé inteligence ve skutečný veřejný statek. Veřejné statky jsou definovány transparentností, společenským přínosem a službou veřejnému zájmu. Současné technologie umělé inteligence však často existují mezi experimentálními projekty a komerčními produkty. Využitím blockchainové sítě, která podněcuje a distribuuje hodnotu, můžeme urychlit demokratizaci, dostupnost a decentralizaci AI. Tento přístup by mohl potenciálně dosáhnout proveditelné transparentnosti a podpořit větší důvěryhodnost v systémech umělé inteligence.

Přečtěte si více: Binance využívá umělou inteligenci (AI) ke zlepšení vzdělávání na webu3