Cofondatorul Ethereum, Vitalik Buterin, spune că o “pauză” temporară a puterii de calcul disponibile la nivel mondial ar putea fi o modalitate de a “cumpăra mai mult timp pentru umanitate” în cazul unei forme de superintelligence AI posibil dăunătoare.
Într-o postare pe blog din 5 ianuarie, ca urmare a postării sale din noiembrie 2023 care pledează pentru ideea de “accelerare defensivă” sau d/acc, Buterin a spus că AI-ul superinteligent ar putea fi la doar cinci ani distanță — și nu se știe dacă rezultatul va fi pozitiv.
Buterin spune că o “pauză blândă” pe hardware-ul computerelor la scară industrială ar putea fi o opțiune pentru a încetini dezvoltarea AI dacă acest lucru se întâmplă — reducând puterea de calcul global disponibilă cu până la 99% timp de 1 până la 2 ani “pentru a câștiga mai mult timp pentru ca umanitatea să se pregătească.”
Sursa: Vitalik Buterin
O superintelligence este un model teoretic de AI care este, de obicei, definit ca fiind mult mai inteligent decât cei mai deștepți oameni în toate domeniile de expertiză.
Mulți directori și cercetători din domeniul tehnologiei și-au exprimat preocupările cu privire la AI, peste 2.600 de persoane solicitând într-o scrisoare deschisă din martie 2023 oprirea dezvoltării AI din cauza “riscurilor profunde pentru societate și umanitate.”
Buterin a notat că postarea sa care introduce d/acc a făcut doar “apeluri vagi de a nu construi forme riscante de superintelligence” și a dorit să împărtășească gândurile sale despre cum să abordeze scenariul “unde riscul AI este ridicat.”
Cu toate acestea, Buterin a spus că ar susține o pauză blândă pe hardware doar dacă ar fi “convins că avem nevoie de ceva mai ‘muscular’ decât regulile de răspundere,” — ceea ce ar însemna că cei care folosesc, desfășoară sau dezvoltă AI ar putea fi dați în judecată pentru daunele cauzate de model.
El a notat că propunerile pentru o pauză a hardware-ului includ găsirea locației cipurilor AI și cererea înregistrării acestora, dar a propus că hardware-ul AI la scară industrială ar putea fi echipat cu un cip care permite continuarea funcționării doar dacă primește un trio de semnături o dată pe săptămână de la organisme internaționale majore.
“Semnăturile ar fi independente de dispozitiv (dacă este dorit, am putea chiar să cerem o dovadă de zero-cunoaștere că au fost publicate pe un blockchain), așa că ar fi totul sau nimic,” a scris Buterin. “Nu ar exista o modalitate practică de a autoriza un dispozitiv să continue funcționarea fără a autoriza toate celelalte dispozitive.”
Ideea d/acc susținută de Buterin pledează pentru o abordare prudentă în dezvoltarea tehnologiei, spre deosebire de accelerarea eficientă sau e/acc, care promovează schimbări tehnologice nelimitate și dezlănțuite.
AI Eye: O cult bizar se dezvoltă în jurul ‘religii’ create de memecoin-uri AI