Umělá inteligence i kryptoměny se pohybují závratnou rychlostí a jsou hluboce technické, takže je obtížné je regulovat – ale informátoři jsou umlčováni.

Další týden a další varování o umělé inteligenci.

Tento otevřený dopis – vyjadřující obavy, že by mohl prohloubit nerovnosti, podnítit dezinformace a vést k nekontrolovatelným systémům umělé inteligence, které „potenciálně vyústí v vyhynutí lidstva“ – zasáhl jinak.

Proč? Protože čtyři z anonymních signatářů jsou současnými zaměstnanci OpenAI, tvůrce široce populárního ChatGPT. Šest dalších tam pracovalo.

Skutečnost, že se tolik lidí důvěrně zapojených do přinášení umělé inteligence mezi masy bojí budoucnosti, je významné. I když věří, že tato stále vznikající technologie by mohla přinést lidstvu „bezprecedentní výhody“, obávají se, že veřejnost – a regulační orgány – nedostávají celý obrázek.

„Společnosti s umělou inteligencí mají značné neveřejné informace o možnostech a omezeních svých systémů, adekvátnosti jejich ochranných opatření a úrovních rizika různých druhů škod. V současnosti však mají jen slabé povinnosti sdílet některé z těchto informací s vládami a žádnou s občanskou společností. Nemyslíme si, že se na ně všichni mohou spolehnout, že to budou sdílet dobrovolně.“

Právo varovat

Paralely mezi umělou inteligencí a kryptoprostorem jsou dost ostré. Obě odvětví se pohybují závratnou rychlostí a jsou hluboce technická. To vytváří obrovské překážky pro vlády i regulační orgány. Za prvé, pro některé politiky může být obtížné se v hlavě zorientovat. Jen se zeptejte amerického zástupce Brada Shermana, který nechvalně označoval tvůrce bitcoinu jako „Saratoshi Nagamoto“. 

https://twitter.com/guti_uno/status/1684383259025883137

Odtud je obtížné připravit gramotné zákony, které povzbudí inovace mezi dobrými aktéry a zároveň odrazí od kriminality mezi špatnými. A ve chvíli, kdy to úřady doženou, jsou tato odvětví často tak nerozpoznatelná, že předložená legislativa neodráží realitu toho, jak se technologie používá… a kde se skrývají největší rizika. Říká se, že v USA stále existuje významná regulační paralýza ohledně kryptoměn – více než 15 let po prvním spuštění bitcoinu.

Jak poznamenává otevřený dopis zaměřený na umělou inteligenci, nedostatek účinného vládního dohledu znamená, že ve společnostech existuje obrovská závislost na informátorech, kteří je nutí k odpovědnosti. Jedna z největších obav autorů se týká toho, jak jim dohody o mlčenlivosti účinně brání promluvit.

„Běžná ochrana oznamovatelů je nedostatečná, protože se zaměřuje na nezákonnou činnost, zatímco mnoho rizik, kterých se obáváme, ještě není regulováno. Někteří z nás se důvodně obávají různých forem odplaty.“

Právo varovat

Opět zde existuje symetrie mezi umělou inteligencí a kryptoměnami – jak dokazuje nedávná, hloubková a odsuzující zpráva vydaná nezávislým zkoušejícím, který měl za úkol prošetřit implozi FTX v roce 2022. V tom případě bylo zjištěno, že šest anonymních informátorů s legitimními obavy byly vyplaceny ve výši 25 milionů dolarů. Jednomu bylo řečeno, aby se omluvil nyní uvězněnému generálnímu řediteli Samu Bankman-Friedovi, a nakonec dosáhl vyrovnání ve výši 16 milionů dolarů poté, co rezignoval na svou roli.

Zatímco kryptoprůmysl udělal slibné kroky k nápravě minulých křivd po spoustě bankrotů v posledních letech – mezi nimi BlockFi, Voyager a Celsius – můžete namítnout, že je ještě potřeba udělat více práce. A díky tomu jsou čtyři závazky, které jsou od firem s umělou inteligencí požadovány v tomto otevřeném dopise, použitelné zejména pro sektor digitálních aktiv.

Existuje požadavek, aby se přední společnosti zabývající se umělou inteligencí zdržely vynucování doložek, které zakazují kritice sloužit zaměstnancům, kteří se obávají vznikajících rizik – a aby byly zavedeny anonymní postupy, aby bylo možné vznést obavy radám, regulačním orgánům a odborníkům. Některým z největších kontroverzí kryptoměn by se dalo předejít, kdyby existovaly podobné záruky.

A kromě přijetí kultury otevřené kritiky existuje výzva, aby vedoucí představitelé v oblasti umělé inteligence slíbili, že se nebudou mstít proti pracovníkům, kteří zveřejní důvěrné informace poté, co vyčerpají všechny ostatní možnosti k eskalaci problému.

Není jasné, jak moc tento otevřený dopis posune jehlu ve snaze regulovat AI. A je třeba říci něco o přirozené transparentnosti technologie blockchain, kde lze tok finančních prostředků – a záznamy o transakcích – sledovat v reálném čase. Velké jazykové modely, obvykle postavené za zavřenými dveřmi, jsou ve srovnání mnohem neprůhlednější.

Ale důsledky nečinnosti a potenciální škody, kterým čelí každodenní spotřebitelé, jsou v obou odvětvích stejně hrozné. Příliš mnoho kryptoinvestorů přišlo o své celoživotní úspory, protože nebyli dostatečně informováni o rizicích – s nedostatečnou koordinací mezi mezinárodními regulačními orgány, aby zabránili tomu, že by offshore špatní aktéři zůstali nekontrolováni. A jak je umělá inteligence každým dnem chytřejší a uživatelsky intuitivnější, mohou být nyní ohroženy i živobytí milionů tvrdě pracujících lidí.

Také by se vám mohlo líbit: Kraken a Binance zažalovali o 13 miliard dolarů. Proč?