Il co-fondatore di Ethereum Vitalik Buterin sta ancora una volta suscitando interesse con le sue intuizioni sulla tecnologia all'avanguardia. In un post sul blog del 5 gennaio, ha avanzato una proposta molto controversa per affrontare la potenziale minaccia dell’intelligenza artificiale super intelligente, implementando una “pausa morbida” sull’hardware dell’intelligenza artificiale mondiale per limitare la potenza di calcolo su scala industriale. Questa proposta mira a far guadagnare tempo agli esseri umani per impedire che l’intelligenza artificiale si sviluppi oltre ogni controllo.
IA superintelligente: futuro o minaccia?
L’intelligenza artificiale super intelligente, che si riferisce a un agente intelligente che supera gli esseri umani in quasi tutti i compiti cognitivi, è sempre stata considerata una “arma a doppio taglio” nel mondo della tecnologia. Sebbene offra infinite possibilità, solleva anche preoccupazioni diffuse. Buterin prevede che l’emergere dell’intelligenza artificiale superintelligente potrebbe avvenire solo tra cinque anni e che la velocità potrebbe creare sfide per le quali gli esseri umani non sono ancora pronti.
Il suo punto centrale è che l'evoluzione rapida dell'AI potrebbe scatenare rischi sociali imprevedibili, minacciando persino la sopravvivenza umana. Pertanto, propone di adottare misure di 'soft pause' per ridurre temporaneamente drasticamente la capacità computazionale globale al fine di rallentare il processo di sviluppo della superintelligenza AI.
Che cos'è un 'soft pause'?
La 'soft pause' proposta da Buterin non è semplicemente una fermata nello sviluppo tecnologico, ma una limitazione all'uso industriale delle risorse computazionali, le cui misure chiave includono:
Riduzione della capacità computazionale:
Riduzione globale delle risorse computazionali fino al 99%, rallentando efficacemente la formazione e il deployment dei modelli AI.
L'accento è posto sul calcolo su scala industriale, piuttosto che su una completa limitazione della ricerca da parte di individui o piccoli laboratori.
Meccanismi di autorizzazione:
L'hardware AI di livello industriale deve ottenere un'autorizzazione settimanale da parte delle autorità di regolamentazione internazionali per poter funzionare.
Attraverso questo meccanismo di approvazione dinamica, si garantisce che le risorse computazionali non vengano abusate.
Verifica della tecnologia blockchain:
Buterin ha anche proposto di utilizzare la tecnologia blockchain per fornire un meccanismo di verifica antifrode per l'hardware AI, per garantire che sia conforme agli accordi di autorizzazione.
Questa visione mira a guadagnare tempo per l'umanità, per adattare i quadri sociali, legali ed etici all'arrivo della superintelligenza AI.
La ragionevolezza della pausa hardware AI: necessaria o ostacolo?
La proposta di Buterin ha suscitato profonde riflessioni nel settore tecnologico e nel pubblico:
Motivi a sostegno:
Evitare il 'controllo tecnologico'
Una superintelligenza AI, una volta al di fuori del controllo umano, potrebbe avere conseguenze catastrofiche. Una pausa può garantire che la tecnologia si sviluppi su 'binari sicuri'.
Promuovere il coordinamento globale
Meccanismi di autorizzazione e regolamentazione hardware aiutano la cooperazione tra i paesi, prevenendo la corsa agli armamenti AI fuori controllo.
Gestione del rischio
Se le regole di responsabilità e altre politiche non riescono a contenere efficacemente i rischi dell'AI, la pausa hardware offre un intervento più diretto.
Voci contrarie:
Soppressione dell'innovazione
Le limitazioni della capacità computazionale potrebbero ridurre la competitività nel campo dell'AI, specialmente per applicazioni di ricerca e sanitarie che richiedono elevate prestazioni computazionali.
Difficoltà di attuazione
Come convincere le principali potenze tecnologiche globali e le aziende a collaborare per limitare le risorse? L'attuazione di questa politica presenta enormi incertezze.
Rischio di bypass tecnologico
Le limitazioni hardware possono portare a mercati neri o comportamenti di elusione tecnologica, causando infine un fallimento della regolamentazione.
Il 'defensive accelerationism' di Buterin
Questa proposta non è la prima dichiarazione di Buterin. In precedenza aveva proposto il 'defensive accelerationism' (d/acc), sostenendo di promuovere il progresso tecnologico in modo cauto e responsabile, piuttosto che perseguire ciecamente la velocità. Il suo blog considera la 'soft pause' come un'estensione di questa idea, un tentativo di fornire soluzioni concrete per i rischi della superintelligenza AI.
Integrazione della blockchain e regolamentazione dell'AI
È importante notare che Buterin ha sottolineato il potenziale della tecnologia blockchain nella regolamentazione dell'hardware AI. Fornendo meccanismi di verifica trasparenti e immutabili tramite blockchain, il processo di autorizzazione può diventare più affidabile. Questa integrazione non solo si allinea con la sua visione tecnologica come leader nel campo della blockchain, ma mostra anche il potenziale delle nuove tecnologie per affrontare problemi globali.
È una pausa una frenata necessaria o un'illusione impossibile?
La proposta di Vitalik Buterin esamina profondamente il percorso di sviluppo della superintelligenza AI da prospettive etiche, tecnologiche e sociali. La sua proposta di 'soft pause' offre un'opzione dignitosa per il dibattito globale, ma se sarà ampiamente accettata rimane un'incognita.
Sulla strada verso una superintelligenza AI, l'umanità frenerà? Come vedi questa 'pausa', è praticabile o come influenzerà lo sviluppo della tecnologia e della società? Commenta e discuti!
