Dne 13. července 2023 oznámila Čínská správa kyberprostoru (CAC) a šest dalších čínských vládních agentur vydání prozatímních administrativních opatření pro služby generativní umělé inteligence. Tato opatření vstoupí v platnost 15. srpna 2023, což znamená první krok Číny v regulaci generativních služeb umělé inteligence. Cílem opatření je najít rovnováhu mezi podporou průmyslové inovace a rozvojem a zároveň zajistit odpovědné a vyhovující používání generativních technologií umělé inteligence. Zde jsou hlavní poznatky z nově vydaných opatření:

Rozsah opatření

Tato opatření se vztahují na poskytování generativních služeb umělé inteligence, které zahrnují generování textů, obrázků, zvuku, videí nebo jiného obsahu pro veřejnost v Číně. Pojem „pro veřejnost“ sice není definován, ale předpokládá se, že zahrnuje individuální i podnikové uživatele, pokud CAC neposkytne další pokyny. Z těchto předpisů jsou vyňaty zejména interní výzkum a technologie generativní umělé inteligence, pokud nezahrnují poskytování služeb veřejnosti.

Čínským uživatelům není výslovně zakázáno používat generativní služby umělé inteligence nabízené zahraničními poskytovateli. CAC však může vůči takovým službám přijmout nezbytná opatření, pokud porušují čínské zákony a předpisy.

Klíčové povinnosti poskytovatelů služeb

Tato opatření zavádějí komplexní regulační rámec, který ukládá poskytovatelům generativních služeb umělé inteligence několik povinností v oblasti dodržování předpisů. Mezi klíčové požadavky patří:

1. Soulad s předpisy ohledně tréninkových dat

Poskytovatelé služeb musí pro školicí aktivity získávat data a základní modely zákonným způsobem. Musí zajistit, aby jejich školicí procesy neporušovaly práva duševního vlastnictví jiných osob. Pokud jsou během školení zpracovávány osobní údaje, musí poskytovatelé získat od jednotlivců výslovný souhlas nebo se pro zpracování spoléhat na jiný právní základ. Dále musí být podniknuty kroky ke zvýšení kvality a autenticity školicích dat a zároveň dodržovat příslušné zákony o kybernetické bezpečnosti, zabezpečení dat a ochraně osobních údajů.

2. Označování dat a zajištění kvality

Poskytovatelé služeb provádějící označování dat během technologického výzkumu a vývoje musí vytvořit jasná, specifická a proveditelná pravidla označování v souladu s opatřeními. Jsou také povinni posoudit kvalitu označování a provádět namátkové kontroly za účelem ověření přesnosti označování. Personál odpovědný za práci se označováním musí být řádně proškolen.

3. Ochrana osobních údajů

Kromě získání souhlasu musí poskytovatelé služeb dodržovat povinnosti týkající se ochrany osobních údajů. To zahrnuje zdržení se shromažďování zbytečných osobních údajů a neuchovávání ani nesdílení informací a záznamů, které by mohly nezákonně identifikovat uživatele. Poskytovatelé musí také neprodleně reagovat na žádosti uživatelů týkající se jejich osobních údajů.

4. Moderování obsahu a nelegální aktivity

Poskytovatelé služeb jsou zodpovědní za neprodlené řešení nelegálního obsahu na svých platformách pozastavením generování a přenosu a odstraněním takového obsahu ze svých služeb. Pokud se zjistí, že uživatelé používají generativní služby umělé inteligence k nelegálním činnostem, musí poskytovatelé vydat varování, omezit jejich přístup k příslušným funkcím a mohou pozastavit nebo ukončit své služby. Příslušné záznamy musí být uchovávány a hlášeny příslušným regulačním orgánům.

5. Posouzení bezpečnosti a archivace algoritmů:

Generativní služby umělé inteligence s „atributy veřejného mínění nebo schopností sociální mobilizace“ vyžadují bezpečnostní posouzení provedené CAC a dalšími příslušnými regulačními orgány. Poskytovatelé služeb musí navíc do 10 pracovních dnů od spuštění služeb podat své algoritmy v souladu s čínskými ustanoveními o algoritmickém doporučení pro internetové informační služby (IIS).

Vynucení

Porušení opatření bude podléhat sankcím podle různých stávajících zákonů, včetně zákona o kybernetické bezpečnosti, zákona o bezpečnosti údajů, zákona o ochraně osobních údajů a zákona o vědeckotechnickém pokroku. Příslušné regulační orgány mají pravomoc požádat poskytovatele služeb o spolupráci za účelem dohledu a inspekce a požádat o vysvětlení ohledně zdrojů dat pro školení, pravidel označování, algoritmických mechanismů a nezbytné technické a datové podpory.

Vydáním Prozatímních administrativních opatření pro generativní služby umělé inteligence Čína učinila významný krok v regulaci technologií a služeb generativní umělé inteligence. Cílem opatření je vyvážit podporu inovací v tomto odvětví a zároveň zajistit dodržování stávajících zákonů a ochranu práv a dat uživatelů. S blížícím se datem implementace musí poskytovatelé služeb působící v Číně tyto nové povinnosti důsledně dodržovat, aby se vyhnuli potenciálním sankcím a regulačním opatřením.