Oznámení: Názory a názory zde vyjádřené patří výhradně autorovi a neodrážejí názory a názory redakce crypto.news.
Rychlost, jakou AI překonává regulaci, představuje riziko pro ověřování dat, identity a reputace a pokud nebude kontrolována, může zvýšit výskyt dezinformací a zpomalit pokrok vědecké inovace. Pochod k superinteligentní AI je představován jejími nejvášnivějšími vůdci jako tlak směrem k vědeckému zlatému věku. Tento tlak však zvyšuje pravděpodobnost existenciálního rizika naší společnosti, která se dostává na degradativní technologickou platformu, kde masové přijetí nezralé technologie AI klesá a časem degraduje lidskou kreativitu a inovaci.
Můžete se také zajímat o: ZKP hlasování slibuje odemknout matematicky zabezpečené demokracie | Názor
Toto je protichůdný pohled na většinu akceleracionistů. AI by měla zvyšovat naši schopnost pracovat rychleji a syntetizovat větší množství informací. Nicméně AI nemůže nahradit induktivní uvažování nebo experimentální proces. Dnes může kdokoli použít AI k výrobě vědecké hypotézy a použít ji jako vstup k vytvoření vědecké práce. Výsledky produktů jako Aithor se často na povrchu jeví jako autoritativní a mohou dokonce projít recenzním řízením. To je velký problém, protože texty generované AI jsou již kurátovány jako legitimní vědecké nálezy a často obsahují falešná vymyšlená data na podporu svých tvrzení. Existuje významná motivace pro mladé výzkumníky využívat jakékoli prostředky, které mají k dispozici, aby soutěžili o omezený počet akademických pracovních míst a příležitostí k financování. Současný motivační systém v akademické sféře odměňuje ty, kteří mohou publikovat nejvíce prací, ať už tyto práce popisují legitimní nálezy, nebo ne—jen potřebují projít recenzním řízením a získat dostatek citací.
Akademický obsah s neověřeným autorstvím také představuje významný problém pro odvětví závislá na základní vědě pro pohon jejich výzkumu a vývoje, na jejichž kvalitě naše společnost funguje a udržuje kvalitu života rostoucí globální populace. V důsledku toho mohou dobře financované R&D důvěřovat pouze výzkumu, který jsou schopny provádět a replikovat samy, což zvyšuje hodnotu obchodních tajemství a zasazuje devastující ránu otevřené vědě a přístupu k významným informacím.
Nákladné replikace mohou samy o sobě řešit dezinformace, problém je však mnohem větší. Dnes čelíme erozím důvěry v samotné základy znalostí, kde neověřitelné tvrzení a nejednoznačné atribuce podkopávají vědecké pokroky a představují hrozbu pro vědeckou komunitu. Existuje naléhavá potřeba vytvořit ekonomiku založenou na pravdě, aby bylo možné spolehlivě autentizovat obsah a data.
Systémy AI jsou tak silné, jaká data byla použita pro jejich trénink.
Velké jazykové modely jsou vynikajícími nástroji pro generování přesvědčivého obsahu; jsou však informativní pouze tak, jaká data byla použita pro jejich trénink. Jejich schopnost extrapolovat mimo tréninkovou sadu stále zůstává omezená. Úloha vědy není jen syntetizovat existující znalosti, ale vytvářet nové informativní artefakty, které zvyšují entropii kolektivního těla znalostí shromážděného lidstvem. Časem, jak více lidí používá AI k generování obsahu a méně lidí generuje originální obsah, čelíme „nízko-entropy bloat“, který nezavádí nové informace do světa, ale spíše pouze znovu kombinuje minulou znalost. Primární zdroje se ztratí, protože nové „znalosti“ jsou založeny na sebereferenčním AI-generovaném obsahu, pokud do nástrojů AI používaných pro vážný výzkum nevytvoříme odolnou provenienci a ověřovací atribuci.
Toto „lobotomizování“ intelektuální hloubky kolektivního lidského těla povede k trvalým dopadům na lékařský, ekonomický a akademický výzkum, stejně jako na umění a kreativní činnosti. Neověřená data mohou ovlivnit studie, zkreslovat výsledky a vést k důležitým selháním politiky nebo technologie, které podkopávají autoritu vědeckého výzkumu. Rizika AI-generované „vědy“ jsou mnohorozměrná. Mundánní provoz normální vědy se zastaví na debatách o autorství, obviněních z plagiátorství a zhoršené recenzi kolegů. Budeme muset věnovat více času a energie řešení mnoha důsledků klesající kvality a přesnosti vědeckého výzkumu.
AI je užitečným nástrojem pro provokaci myšlenek, strukturování myšlenek a automatizaci opakujících se úkolů; musí zůstat doplňkem obsahu vytvářeného lidmi a ne jeho náhradou. Neměla by být používána k autorství vědeckých prací, které navrhují originální nálezy bez vykonání práce, ale spíše jako pomoc k zvýšení efektivity a přesnosti lidských snah. Například AI může být užitečná při provádění simulací na existujících datech s již známými metodami a automatizaci této práce, aby pomohla objevit nové směry výzkumu. Nicméně experimentální protokol a lidská kreativita potřebná pro vědecké zkoumání nemohou být snadno nahrazeny.
Budování ekonomiky založené na pravdě
Ekonomika založená na pravdě stanovuje rámec se systémy a standardy, které zajišťují autenticitu, integritu, transparentnost a sledovatelnost informací a dat. Řeší potřebu vytvořit důvěru a ověřitelnost napříč technologickou společností, což umožňuje jednotlivcům a organizacím spoléhat se na přesnost sdílených znalostí. Hodnota je zakotvena v pravdivosti tvrzení a autenticity pozorování a primárních zdrojů. Ekonomika založená na pravdě učiní digitální znalosti „tvrdými“ stejným způsobem, jakým Bitcoin učinil fiat tvrdým. To je slib hnutí decentralizované vědy.
Jak se tam dostaneme? Musíme začít s nejdůležitějším prvkem ve vědeckém světě, jednotlivým výzkumníkem a jeho prací. Současné webové standardy pro vědeckou identitu dnes nedostačují k ověření nároků na identitu a důkaz o práci. Současná praxe usnadňuje výrobu profilu s přijatelnou reputací; recenze kolegů jsou také ohroženy kvůli zaujatosti a spiknutí. Bez ověření metadat, která doprovázejí vědecký nárok, nelze založit ekonomiku založenou na pravdě pro vědu.
Zlepšení akademických identitních standardů může začít jednoduchým přihlášením napříč platformami, poháněným technologií ověřování identity chránící soukromí. Uživatelé by měli mít možnost přihlásit se na jakoukoli stránku se svými přihlašovacími údaji, prokázat autenticitu a selektivně zveřejnit fakta o své reputaci, datech nebo jiných agentech či uživatelích.
Identitní vrstva, která je založena na ověřitelné reputaci výzkumníka, je základním základem DeSci. Kompletní on-chain vědecká ekonomika umožní veřejnou a anonymní účast na masivně online koordinaci výzkumných aktivit. Výzkumné laboratoře a decentralizované autonomní organizace mohou vytvářet systém bez povolení a odměnové programy, které nemohou být zmanipulovány podvodnými nároky na reputaci nebo identitu. Univerzální vědecký registr zabezpečený na blockchainu s nároky na identitu by poskytl rámec pro autonomní organizace vybudované za účelem shromažďování ověřitelných vědeckých znalostí a testování falsifikovatelných hypotéz.
Zajištění budoucnosti lidského pokroku
Musíme založit základy pravdy prostřednictvím transparentnosti informací a přísného ověřování, abychom se vyhnuli zhroucení důvěry v odborné výzkumné oblasti. Šance na pokračování našeho kolektivního pokroku po další stovky let, odemykání následných vědeckých revolucí v materiálových vědách, biotechnologiích, neurovědách a vědách o složitosti, bude záviset na kurátorství kvalitního výzkumu a zdravých dat. To bude rozdíl mezi budoucí společností, která je tak pokročilá, jako jsme my, v porovnání se předosvícenskými společnostmi. Jinak se budeme muset obávat, že tohle je tak chytré, jaké se jako druh staneme, a že se pouze zblbneme. Není jasné, zda nás DeSci zachrání, nebo ne, ale máme omezený čas na to, abychom to udělali správně.
Přečtěte si více: Decentralizovaná věda modernizuje zastaralé systémy | Názor
Autor: Shady El Damaty
Shady El Damaty je spoluzakladatel Holonym Foundation, která hledá řešení pro univerzální osobnost a bezpečný digitální přístup s decentralizovaným identitním protokolem postaveným na magii důkazů s nulovým znalostem. V roce 2020 vybudoval OpSci, první decentralizovanou vědeckou organizaci, zkráceně DeSci. Před svou kariérou v kryptoměnách získal Shady doktorát v oboru neurovědy na Georgetown University, Washington, D.C., Spojené státy.