Podle BlockBeats se na fóru AI Apex Asia Capital Connect sešli odborníci z AI Agent, bezpečnostního sladění, duševního vlastnictví a dodržování předpisů, aby diskutovali o složitém prostředí, kterému čelí společnosti AI připravující se na primární veřejnou nabídku akcií (IPO). Kulatý stůl, který moderoval James Liu, mezinárodní ředitel společnosti Alibaba Cloud, poskytl zásadní poznatky o vyvíjejícím se regulačním prostředí a úspěšných strategiích, jak se v něm orientovat.
Mezi klíčové body diskuse patřily bezprecedentní výzvy, kterým čelí společnosti AI v oblasti ochrany osobních údajů, ochrany duševního vlastnictví a dodržování předpisů při přípravě na IPO. Rychlé tempo inovací AI často předbíhá vývoj regulačních rámců, což vyžaduje proaktivní řízení rizik a efektivní komunikaci se zúčastněnými stranami. Spolupráce mezi společnostmi s umělou inteligencí a regulačními orgány je nezbytná pro vývoj rámců, které podporují inovace a zároveň chrání veřejné zájmy. Zákon EU o umělé inteligenci představuje významný posun v regulaci umělé inteligence s globálními důsledky pro společnosti provozující nebo prodávající produkty na evropském trhu. Technologie Deepfake představuje značná rizika pro ochranu autorských práv a identity a vyžaduje kombinaci technických a regulačních řešení.
Profesor Liu Yang, spoluzakladatel AgentLayer, zdůraznil vyvíjející se povahu bezpečnostních rizik AI a navrhl inovativní řešení: „Při používání jakéhokoli řešení AI je zásadní porozumět potenciálním novým útokům. Viděli jsme například průlomy v modelech útěků z vězení AI, které mohou obejít existující obranné mechanismy se 100% úspěšností. To představuje významné výzvy pro jakékoli řešení AI, které vyvíjíme.“ Liu dále rozvedl nový přístup k řešení těchto výzev: „Vylepšení LLM pomocí modelů založených na agentech jako validátorů a manažerů se přizpůsobuje složitosti v rámci podniků a zaměřuje se na vytváření automatických validátorů a manažerů LLM. Namísto pouhého zvažování, zda jsou LLM pro podniky bezpečné, může použití speciálně vytvořených agentů AI k ověřování a správě všech interakcí LLM pomoci zajistit bezpečné výsledky, i když samotné základní LLM bezpečné nejsou.“
Hsu Li-Chuan, partner společnosti Dentons Rodyk, zdůraznil důležitost jasné komunikace s regulátory a investory: „Výzva AI spočívá v pokrytí mnoha regulačních oblastí, na rozdíl od e-commerce nebo dokonce blockchainové technologie. AI může zahrnovat širší regulační, compliance a etické domény. Musíme na to pamatovat při jakékoli činnosti spojené s získáváním finančních prostředků na veřejném trhu.“ Yang Jingwei, ředitel bezpečnostních technologií ve společnosti Ant Group, zdůraznil nutnost robustních technických řešení: „Pro zabezpečení dat mám tři doporučení: zavést velmi silnou správu dat, mít přísné zásady a standardizaci, být velmi opatrní při přenosu dat a udržovat transparentnost ve využívání dat. Pokud jde o duševní vlastnictví, poraďte se s odborníky na duševní vlastnictví, hledejte patentovou ochranu a mějte jasné smlouvy o vlastnictví duševního vlastnictví.“
Moderátor James Liu uzavřel: „Klíčovými body je, že komunikace s investory, veřejností a regulačními orgány je klíčová během období před a po IPO. Vzhledem k rychlému tempu technologického rozvoje, který často předstihuje regulaci, jsou zvláště důležité samoregulace a rámce. Jak navrhl profesor Liu, použití účelově vytvořených agentů AI k vylepšení LLM představuje slibný směr pro řešení současných problémů bezpečnosti a zabezpečení v odvětví AI.
Odborníci se jednomyslně shodli, že s rychlým vývojem umělé inteligence si společnosti musí udržet náskok před problémy se správou, aby úspěšně dokončily proces IPO a udržely si důvěru veřejnosti. Pokračující dialog mezi průmyslem, akademickou obcí a regulačními orgány bude hrát klíčovou roli při utváření vyvážených přístupů k řízení AI, zatímco nově vznikající technologie, jako jsou agenti AI, budou zásadní pro zajištění bezpečného a efektivního nasazení systémů AI.