Evropská unie (EU) učinila ve středu významný krok v tom, že dala světu první sadu pravidel správy a řízení týkající se umělé inteligence (AI), když Evropský parlament schválil návrh zákona známého jako A.I. Akt. 

A.I. Zákon, který EU poprvé navrhla 21. dubna 2021, byl nabízen jako první a nejkomplexnější regulační rámec na světě. Od jeho návrhu Evropská komise, Rada Evropské unie a Evropský parlament pracují na úpravách a dolaďování jeho původního návrhu, přičemž konečná verze se očekává až koncem tohoto roku.

Zatímco původní návrh přišel před nárůstem generativní umělé inteligence, včetně chatbotů, tento nový návrh zákona jistě bere v úvahu generativní systémy umělé inteligence, jako je ChatGPT od OpenAI, a důsledky, které přinášejí. 

Testování před nasazením

Zákon, který platí pro všechny členské státy EU, vyžaduje, aby členské státy EU zřídily alespoň jeden regulační „sandbox“ pro testování systémů AI před jejich nasazením.

„Jedna věc, které jsme chtěli tímto textem dosáhnout, je vyváženost,“ řekl novinářům poslanec Evropského parlamentu Dragoș Tudorache. Zákon chrání občany a zároveň „podporuje inovace, nebrání kreativitě a zavádění a rozvoji AI v Evropě,“ dodal.

Největší potenciál pro lidské poškození

Jádrem středečního schváleného zákona by generativní umělá inteligence podléhala novým požadavkům na transparentnost, které zahrnují zveřejňování souhrnů materiálů chráněných autorskými právy používaných pro školení systému a také implementaci bezpečnostních opatření, která zabrání umělé inteligenci generovat nelegální obsah. 

Návrh zákona „založený na riziku“ k regulaci umělé inteligence se zaměřuje na případy použití s ​​největším potenciálem pro lidské poškození, včetně využití systémů umělé inteligence k provozování kritických infrastruktur, jako je voda nebo energie, náš právní systém soudnictví a určování přístupu k veřejným službám a vládní výhody. 

Vývojáři této technologie by byli povinni provést hodnocení rizik před uvedením této technologie do hlavního proudu, podobně jako v současnosti funguje proces schvalování léků. 

Zákaz rozpoznávání obličeje

Další vzrušená oblast debaty se točí kolem použití technologie rozpoznávání obličeje. Evropský parlament odhlasoval zákaz používání živého rozpoznávání obličeje, ale je stále otevřený, zda by měla existovat výjimka pro jeho použití v případech národní bezpečnosti a pro jiné účely vymáhání práva. 

K tomu se přidává další ustanovení A.I. Zákon by zakázal společnostem získávat biometrická data ze sociálních médií za účelem pomoci při vytváření databází – což byl hlavní problém poté, co společnost Clearview AI zabývající se rozpoznáváním obličeje dostala pokutu 20 milionů USD od francouzského úřadu na ochranu dat (CNIL) za nezákonné shromažďování a zpracování dat. biometrické údaje patřící francouzským občanům, navíc k pokutě ve výši 5,2 milionu USD po splatnosti. 

Generativní umělá inteligence přidá 4,4 bilionu USD do globální ekonomiky?

Podle středeční zprávy zveřejněné společností McKinsey & Company se odhaduje, že generativní umělá inteligence přidá do globální ekonomiky 4,4 bilionu USD. 

Zatímco toto číslo je na horním konci předpokládaného rozmezí McKinsey pro hodnotu generativní umělé inteligence, zpráva nazvaná „Ekonomický potenciál generativní umělé inteligence“ také uvádí spodní hranici rozmezí, které je 2,6 bilionu USD. 

Během středeční konference Viva v Paříži hovořil hlavní vědec společnosti Meta Yann LeCun o současných omezeních generativní umělé inteligence, konkrétně těch, které jsou trénovány na velkých jazykových modelech. 

Podle LeCuna není generativní AI, která je trénována pouze na jazyk, příliš inteligentní.

"Tyto systémy jsou velmi omezené, nemají žádné porozumění základní realitě skutečného světa, protože jsou čistě trénovány na textu, velkém množství textu," řekl LeCun. "Většina lidských znalostí nemá nic společného s jazykem, takže část lidské zkušenosti není zachycena AI."

„Dnes jsme se zapsali do historie,“ řekl novinářům Brando Benifei, člen Evropského parlamentu pracující na EU AI Act.

„Zatímco velké technologické společnosti bijí na poplach kvůli svým vlastním výtvorům, Evropa pokročila a navrhla konkrétní reakci na rizika, která AI začíná představovat,“ dodal Benifei.

Tento týden více než 40 % vedoucích firem na Yale CEO Summit, včetně šéfa Walmartu Douga McMilliona a CEO Coca-Coly Jamese Quincyho, všichni sdíleli své přesvědčení, že umělá inteligence má potenciál zničit lidstvo za pět až deset let. 

Zákon o AI posouvá sankce, které jsme viděli z evropského rámce ochrany osobních údajů GDPR, o krok dále, kdy společnostem zapojeným do zakázaných praktik AI může být uložena pokuta až 43 milionů USD nebo částka rovnající se 7 % celosvětového ročního obratu společnosti, podle toho, co je vyšší. 

GDPR v současné době strukturuje své pokuty až do výše 10,8 milionů USD nebo až do 2 % globálního obratu firmy, podle toho, která hodnota je vyšší.

V dalších zprávách si přečtěte o hyperdimenzionálním počítání a o tom, proč se na AI možná díváme špatně.

Kliknutím sem zobrazíte celou galerii na Hypemoon