Dezvăluire: Părerile și opiniile exprimate aici aparțin exclusiv autorului și nu reprezintă punctele de vedere și opiniile editorialului crypto.news.
Viteza cu care AI depășește reglementările prezintă un risc pentru verificarea datelor, identității și reputației și, dacă nu este controlată, poate crește prevalența dezinformării și poate încetini progresul inovației științifice. Marșul către IA super-inteligentă este reprezentat de cei mai fervenți lideri ai săi ca un impuls către o epocă de aur științifică. Cu toate acestea, acest impuls crește șansele ca un risc existențial ca societatea noastră să lovească un platou tehnologic degradant, unde adoptarea pe scară largă a tehnologiei AI imature limitează și, în timp, degradează creativitatea și inovația umană.
S-ar putea să-ți placă și: Votul ZKP promite să deblocheze democrații matematic securizate | Opinie
Aceasta este o opinie contradictorie față de cei mai mulți acceleratiști. AI ar trebui să crească capacitatea noastră de a lucra mai repede și de a sintetiza cantități mai mari de informații. Cu toate acestea, AI nu poate înlocui raționamentul inductiv sau procesul experimental. Astăzi, oricine poate folosi AI pentru a fabrica o ipoteză științifică și a o folosi ca input pentru a genera o lucrare științifică. Rezultatele produselor precum Aithor apar adesea autoritare la suprafață și pot chiar să treacă de evaluarea colegială. Aceasta este o problemă mare deoarece textele generate de AI sunt deja curățate ca descoperiri științifice legitime și includ adesea date fabricate false pentru a-și susține afirmațiile. Există un stimulent major pentru tinerii cercetători de a utiliza orice mijloace au disponibile pentru a concura pentru un număr limitat de locuri de muncă academice și oportunități de finanțare. Sistemul actual de stimulente în academia recompensează pe cei care pot publica cele mai multe lucrări, indiferent dacă acele lucrări descriu sau nu descoperiri legitime—trebuie doar să treacă de evaluarea colegială și să obțină suficiente citări.
Conținutul academic cu autorie neverificată va reprezenta de asemenea o problemă semnificativă pentru industriile care depind de știința de bază pentru a-și alimenta cercetarea și dezvoltarea, exact R&D care menține funcționarea societății noastre și menține calitatea vieții pentru o populație globală în creștere. Drept urmare, R&D bine finanțat poate avea încredere doar în cercetarea pe care o poate efectua și replica de unul singur, crescând valoarea secretelor comerciale și provocând o lovitură devastatoare științei deschise și accesului la informații semnificative.
Eforturile costisitoare de replicare pot gestiona de una singură dezinformarea, însă problema este mult mai mare decât atât. Astăzi, ne confruntăm cu o erodare a încrederii în însăși fundațiile cunoașterii, unde afirmațiile neverificabile și atribuțiile ambigue subminează progresele științifice, punând în pericol comunitatea științifică. Există o nevoie urgentă de a stabili o economie bazată pe adevăr pentru a autentifica conținutul și datele în mod fiabil.
Sistemele AI sunt la fel de puternice ca datele pe care sunt antrenate.
Modelele de limbaj mari sunt instrumente excelente pentru generarea de conținut convingător; cu toate acestea, ele sunt doar la fel de informative ca datele pe care sunt antrenate. Abilitatea lor de a extrapola în afara setului de antrenament rămâne în continuare limitată. Rolul științei nu este doar de a sintetiza cunoștințele existente, ci de a crea noi artefacte informaționale care să crească entropia corpusului colectiv de cunoștințe acumulat de umanitate. În timp, pe măsură ce tot mai mulți oameni folosesc AI pentru a genera conținut și mai puțini oameni generează conținut original, ne vom confrunta cu un „bloat de entropie scăzută” care nu introduce noi informații în lume, ci mai degrabă reîmbină cunoștințele din trecut. Sursele primare se vor pierde pe măsură ce noua „cunoaștere” se bazează pe conținut generat de AI auto-referential, cu excepția cazului în care construim un strat de proveniență rezistent și atribuire verificată în instrumentele AI utilizate pentru cercetarea serioasă.
Această „lobotomizare” a profunzimii intelectuale a corpusului uman colectiv va avea un impact de durată asupra cercetărilor medicale, economice și academice, precum și asupra artelor și activităților creative. Datele neverificate pot influența studiile, distorsionând rezultatele și conducând la eșecuri importante de politică sau tehnologie care erodează autoritatea cercetării științifice. Riscurile „științei” generate de AI sunt multiple. Activitatea mundane a științei normale se va bloca pe dezbateri privind autoritatea, acuzații de plagiat și evaluări colegiale afectate. Va trebui să dedicăm mai mult timp și energie pentru a face față multor consecințe ale scăderii calității și acurateței cercetării științifice.
AI este un instrument util pentru provocarea ideilor, structurarea gândurilor și automatizarea sarcinilor repetitive; trebuie să rămână un complement pentru conținutul creat de oameni și nu un înlocuitor. Nu ar trebui să fie folosit pentru a scrie lucrări științifice care propun descoperiri originale fără a efectua munca, ci mai degrabă ca un ajutor pentru a crește eficiența și acuratețea eforturilor conduse de oameni. De exemplu, AI poate fi utilă în rularea simulărilor pe date existente cu metode deja cunoscute și automatizarea acestei lucrări pentru a ajuta la descoperirea unor noi direcții de cercetare. Cu toate acestea, protocolul experimental și creativitatea umană necesară pentru cercetarea științifică nu pot fi ușor înlocuite.
Construirea unei economii bazate pe adevăr
O economie bazată pe adevăr stabilește un cadru cu sisteme și standarde pentru a asigura autenticitatea, integritatea, transparența și trasabilitatea informațiilor și datelor. Aceasta abordează nevoia de a stabili încrederea și verificabilitatea în societatea tehnologică, permițând indivizilor și organizațiilor să se bazeze pe acuratețea cunoștințelor partajate. Valoarea este înrădăcinată în veridicitatea afirmațiilor și autenticitatea observațiilor și surselor primare. O economie bazată pe adevăr va face cunoștințele digitale „dure” în modul în care Bitcoin a făcut ca fiat să fie dur. Aceasta este promisiunea mișcării științei descentralizate.
Cum ajungem acolo? Trebuie să începem cu cel mai important element din lumea științifică, cercetătorul individual și munca lor. Standardele web actuale pentru identitatea științifică de astăzi nu reușesc să verifice afirmațiile privind identitatea și dovada muncii. Practica actuală face foarte ușor să fabrici un profil cu o reputație acceptabilă; evaluările colegiale sunt de asemenea în pericol din cauza prejudecăților și coluziunii. Fără verificarea metadatelor care însoțesc o afirmație științifică, o economie bazată pe adevăr pentru știință nu poate fi stabilită.
Îmbunătățirea standardelor de identitate academică poate începe cu un simplu sistem de conectare inter-platformă alimentat de tehnologia de verificare a identității care protejează confidențialitatea. Utilizatorii ar trebui să poată să se conecteze pe orice site cu acreditivele lor, să dovedească autenticitatea și să dezvăluie selectiv faptele despre reputația lor, datele sau alți agenți sau utilizatori.
Un strat de identitate care este bazat pe reputația verificabilă a unui cercetător este fundația de bază a DeSci. O economie științifică complet pe lanț va permite participarea publică și anonimă în coordonarea masivă online pentru activitățile de cercetare. Laboratoarele de cercetare și organizațiile autonome descentralizate pot crea sisteme fără permisiune și programe de recompense care nu pot fi manipulate prin reputație frauduloasă sau afirmații de identitate. Un registru științific universal securizat pe blockchain cu afirmații de identitate ar oferi un cadru de referință pentru organizațiile autonome construite pentru a acumula cunoștințe științifice verificabile și a testa ipoteze falsificabile.
Protejarea viitorului progresului uman
Trebuie să stabilim fundațiile adevărului prin transparența informațiilor și verificarea riguroasă pentru a evita o ruptură a încrederii în domeniile de cercetare expertă. Șansele ca progresul nostru colectiv să continue timp de încă sute de ani, deblocând revoluții științifice succesive în știința materialelor, biotehnologie, neuroștiință și știința complexității, vor depinde de curățarea cercetării de calitate și a datelor solide. Aceasta va fi diferența dintre o societate viitoare care este la fel de avansată ca suntem noi în comparație cu societățile pre-iluminate. Altfel, va trebui să ne așteptăm că aceasta este cât de deștepți suntem ca specie și vom deveni doar mai proști. Nu este clar dacă DeSci ne va salva sau nu, dar există un timp limitat pentru a face lucrurile corecte.
Citește mai mult: Știința descentralizată modernizează sisteme învechite | Opinie
Autor: Shady El Damaty
Shady El Damaty este co-fondator al Fundației Holonym, căutând o soluție pentru persoanitatea universală și accesul digital sigur cu un protocol de identitate descentralizat construit pe magia dovezilor cu cunoștințe zero. În 2020, a construit OpSci, prima organizație de știință descentralizată, sau DeSci pe scurt. Înainte de cariera sa în crypto, Shady și-a obținut doctoratul în neuroștiințe de la Universitatea Georgetown, Washington, D.C., Statele Unite.