Cofondatorul Ethereum, Vitalik Butertin, și-a împărtășit punctul de vedere asupra inteligenței artificiale (AI) „superinteligentă”, numind-o „riscătoare”, ca răspuns la schimbările în curs de conducere la OpenAI.

Pe 19 mai, Cointelegraph a raportat că fostul șef de aliniere al OpenAI, Jan Leike, și-a dat demisia după ce a spus că a atins un „punct de rupere” cu managementul privind prioritățile de bază ale companiei.

Leike a susținut că „cultura și procesele de siguranță au trecut pe planul din spate față de produsele strălucitoare” la OpenAI, mulți indicând evoluțiile în jurul inteligenței generale artificiale (AGI).

Se anticipează că AGI este un tip de IA egal sau depășind capacitățile cognitive umane - gândul căruia a început deja să îngrijoreze experții din industrie, care spun că lumea nu este echipată corespunzător pentru a gestiona astfel de sisteme AI superinteligente.

Acest sentiment pare să se alinieze cu opiniile lui Buterin. Într-o postare pe X, el și-a împărtășit gândurile actuale despre această temă, subliniind că nu trebuie să ne grăbim să trecem la acțiune sau să ne împingem împotriva celor care încearcă.

Sursa: Vitalik Buterin 

Buterin a subliniat modelele deschise care rulează pe hardware de consum, ca „garaj” împotriva unui viitor în care un mic conglomerat de companii ar putea apoi să citească și să medieze cea mai mare parte a gândirii umane. 

„Astfel de modele sunt, de asemenea, mult mai scăzute în ceea ce privește riscul de dezamăgire atât decât megalomania corporativă, cât și cele militare.”

Acesta este al doilea comentariu al său în ultima săptămână despre AI și capacitățile sale în creștere.

Pe 16 mai, el a susținut că modelul OpenAI GPT-4 a depășit deja testul Turing, care determină „umanitatea” unui model AI. El a citat noi cercetări care susțin că majoritatea oamenilor nu pot descifra atunci când vorbesc cu o mașină.

Înrudit: noua funcție de rechemare „Black Mirror” de la Microsoft înregistrează tot ceea ce faci

Cu toate acestea, Buterin nu este primul care și-a exprimat această îngrijorare. Guvernul Regatului Unit a analizat recent și implicarea crescândă a Big Tech în sectorul AI, ridicând probleme legate de concurență și dominație pe piață.

Grupuri precum 6079 AI apar deja pe internet, pledând pentru IA descentralizată pentru a se asigura că rămâne mai democratizată și nu dominată de Big Tech.

Sursa: 6079.ai 

Aceasta urmează plecării unui alt membru senior al echipei de conducere a OpenAI pe 14 mai, când Ilya Sutskever, co-fondator și om de știință șef, și-a anunțat demisia.

Sutskever nu a menționat nicio îngrijorare cu privire la AGI. Cu toate acestea, în postarea sa pe X, el și-a exprimat încrederea că OpenAI va dezvolta un AGI care este „sigur și benefic”.

Revista: „Sic AI pe alții” pentru a preveni apocalipsa AI: David Brin, autor SF