Fostul CEO Google, Eric Schmidt, a avertizat dezvoltatorii de inteligență artificială să își controleze plafonul de dezvoltare. De asemenea, el a subliniat importanța ca Statele Unite să câștige cursa actuală în inteligența artificială (AI) împotriva Chinei.
Vorbind la ABC News’ This Week cu George Stephanopoulos duminică, Schmidt a avertizat cu privire la potențialul sistemelor AI de a funcționa independent și chiar de a se îmbunătăți singure.
„În curând vom putea avea computere care funcționează singure, decidând ce vor să facă”, a spus Schmidt.
Schmidt: AI nu ar trebui lăsată fără control
Schmidt a reiterat riscurile dezvoltării AI avansate fără control, subliniind că sistemele capabile de auto-îmbunătățire prezintă un pericol semnificativ.
„Când sistemul poate să se auto-îmbunătățească, trebuie să ne gândim serios la deconectarea lui”, a spus fostul CEO Google.
Când Stephanopoulos l-a întrebat pe Schmidt dacă astfel de sisteme AI ar putea contracara eforturile de a le închide, Schmidt a răspuns: „Ei bine, în teorie, ar trebui să avem pe cineva cu mâna pe priză - metaforic.”
Deși îngrijorările legate de riscurile existențiale ale AI cresc, unii experți susțin că astfel de temeri sunt exagerate. Profesorul Nick Jennings, vice-rector pentru cercetare la Imperial College London, se numără printre cei care resping predicțiile apocaliptice.
Jennings susține că, deși AI poate excela în sarcini specifice, crearea de sisteme cu inteligență asemănătoare omului în domenii diverse rămâne mult peste capabilitățile actuale ale oamenilor de știință.
„Dezvoltarea AI care îndeplinește o sarcină singulară foarte bine este realizabilă”, a explicat Jennings. „Dar construirea unei AI generale care să reflecte inteligența umană pe multiple subiecte nu este ceva de care ne putem aștepta în viitorul apropiat.”
Opinii divergente despre amenințările AI
Între timp, îngrijorările persistă în rândul cercetătorilor de top în AI care avertizează asupra pericolelor cauzate de obiectivele prost definite și măsurile de siguranță inadecvate. Profesorul Stuart Russell de la UC Berkeley și cercetătorul postdoctoral Michael Cohen susțin că sistemele AI puternice ar putea prezenta în cele din urmă o amenințare existențială pentru umanitate dacă sunt lăsate fără control.
Într-un document de perspective publicat în Science Journal, Russell și Cohen au cerut o supraveghere mai strictă a dezvoltării AI. Ei au subliniat necesitatea ca companiile de tehnologie să demonstreze siguranța sistemelor lor AI înainte de a le lansa pe piață. Fără obiective clare și măsuri de siguranță robuste, sistemele AI avansate ar putea acționa împotriva intereselor umane, susțin ei.
„Dacă obiectivele acestor AI intră în conflict cu cele ale oamenilor, ar putea duce la un dezastru”, au scris Russell și Cohen. Ei cred că companiile de tehnologie ar trebui să fie trase la răspundere pentru asigurarea siguranței sistemelor lor și identificarea „linilor roșii” critice pe care AI nu ar trebui să le depășească niciodată.
O dezbatere în creștere despre siguranța AI
Ritmul rapid al avansului AI a prezentat deja provocări, inclusiv răspândirea dezinformării, polarizarea societății și prejudecăți algoritmice. Îngrijorările legate de siguranță și reglementare nu au reușit încă să țină pasul cu dezvoltarea tehnologiei.
Observațiile lui Schmidt reflectă urgența în creștere în rândul liderilor din industrie de a aborda aceste provocări. Experți precum Elon Musk au cerut de mult timp reglementări preventive pentru a reduce riscurile AI.
Musk, care odată a descris AI ca fiind „cel mai mare risc cu care ne confruntăm ca civilizație”, a avertizat că autoritățile au făcut puțin pentru a aborda pericolele sale. În mod similar, fizicianul Stephen Hawking se temea că atingerea singularității, momentul în care mașinile depășesc inteligența umană, ar putea lăsa umanitatea incapabilă să controleze sistemele AI avansate.
În interviul său, Hawking a susținut că fără reglementări, AI ar putea deveni „fie cea mai bună, fie cea mai rea lucru care se poate întâmpla umanității.”
Competiția AI dintre SUA și China se intensifică
Schmidt a observat că, deși SUA a avut anterior un avantaj față de China în dezvoltarea AI, diferența s-a restrâns semnificativ în ultimele șase luni. „China a recuperat într-un mod remarcabil”, a spus el, descriind situația actuală ca o cursă cu mize mari între cele două superputeri.
„Există un moment, poate în următorul an sau doi, în care sistemele pot începe să își facă propria cercetare. Ele sunt numite oameni de știință AI, spre deosebire de oamenii de știință umani. Așadar, treci de la 1.000 de oameni de știință umani la un milion de oameni de știință AI. Cred că asta crește panta și, când te miști cu acest ritm, este foarte greu pentru concurenții tăi să recupereze”, a remarcat el.
Schmidt crede că administrația Trump care va veni va pune accent pe competitivitatea SUA în AI, ceea ce el consideră un pas pozitiv. „Atâta timp cât valorile umane sunt păstrate”, a spus el, „ar trebui să fim bine.”
Un sistem pas cu pas pentru lansarea carierei tale Web3 și obținerea de locuri de muncă bine plătite în criptomonedă în 90 de zile.