Skupina vědců z oblasti umělé inteligence naléhá na národy, aby vytvořily globální systém dohledu, který by zabránil potenciálním „katastrofickým následkům“, pokud lidé ztratí kontrolu nad AI.
V prohlášení zveřejněném 16. září skupina vlivných vědců AI vyjádřila obavy, že technologie, kterou pomohli vyvinout, by mohla způsobit vážné škody, pokud by se ztratila lidská kontrola.
„Ztráta lidské kontroly nebo zlomyslné použití těchto systémů umělé inteligence by mohlo vést ke katastrofickým následkům pro celé lidstvo,“ stálo v prohlášení před pokračováním:
"Bohužel jsme ještě nevyvinuli nezbytnou vědu, která by řídila a chránila používání tak pokročilé inteligence."
Vědci se shodli na tom, že státy musí vyvinout úřady pro detekci a reakci na incidenty AI a katastrofická rizika v rámci svých jurisdikcí a že je třeba vypracovat „globální pohotovostní plán“.
"Z dlouhodobého hlediska by státy měly vyvinout mezinárodní režim řízení, aby zabránily vývoji modelů, které by mohly představovat globální katastrofická rizika."
Prohlášení staví na zjištěních z Mezinárodního dialogu o bezpečnosti umělé inteligence v Benátkách na začátku září, třetího setkání svého druhu organizovaného neziskovou americkou výzkumnou skupinou Safe AI Forum.
Profesorka Gillian Hadfield z Johns Hopkins University, která toto prohlášení sdílela v příspěvku na X, řekla: „Pokud bychom za šest měsíců měli nějakou katastrofu, pokud zjistíme, že existují modely, které se začínají autonomně zdokonalovat. zavoláš?"
Zdroj: Gillian Hadfield
Uvedli, že bezpečnost umělé inteligence je uznávána jako globální veřejný statek, který vyžaduje mezinárodní spolupráci a správu.
Vývojáři AI navrhli tři klíčové procesy: dohody a instituce o připravenosti na mimořádné události, rámec pro zajištění bezpečnosti a nezávislý globální výzkum bezpečnosti a ověřování AI.
Prohlášení mělo více než 30 signatářů ze Spojených států, Kanady, Číny, Británie, Singapuru a dalších zemí. Skupina se skládala z odborníků z předních výzkumných institucí a univerzit v oblasti umělé inteligence a několika vítězů Turingovy ceny, ekvivalentu Nobelovy ceny za výpočetní techniku.
Vědci uvedli, že dialog byl nezbytný kvůli zmenšující se vědecké výměně mezi supervelmocemi a rostoucí nedůvěře mezi USA a Čínou, což zvyšuje obtížnost dosažení konsenzu o hrozbách AI.
Na začátku září USA, EU a Spojené království podepsaly první právně závaznou mezinárodní smlouvu o umělé inteligenci na světě, která upřednostňuje lidská práva a odpovědnost v regulaci umělé inteligence.
Technologické korporace a manažeři však uvedli, že přílišná regulace by mohla potlačit inovace, zejména v Evropské unii.
Magazín: Plán „pekelné krajiny“ dronů s umělou inteligencí pro Tchaj-wan, LLM jsou příliš hloupé na to, aby zničily lidstvo: AI Eye