Secondo BlockBeats, esperti dei settori AI Agent, allineamento della sicurezza, proprietà intellettuale e conformità si sono riuniti all'AI Apex Asia Capital Connect Forum per discutere dell'ambiente intricato affrontato dalle aziende di intelligenza artificiale che si preparano per un'offerta pubblica iniziale (IPO). La tavola rotonda, moderata da James Liu, International Director di Alibaba Cloud, ha fornito approfondimenti cruciali sul panorama normativo in evoluzione e sulle strategie di successo per orientarsi in esso.
I punti chiave della discussione includevano le sfide senza precedenti che le aziende di intelligenza artificiale devono affrontare in merito alla privacy dei dati, alla protezione della proprietà intellettuale e alla conformità normativa quando si preparano per un'IPO. Il ritmo rapido dell'innovazione dell'intelligenza artificiale spesso supera lo sviluppo di quadri normativi, rendendo necessaria una gestione proattiva del rischio e una comunicazione efficace con le parti interessate. La collaborazione tra aziende di intelligenza artificiale e organismi di regolamentazione è essenziale per sviluppare quadri che promuovano l'innovazione proteggendo al contempo gli interessi pubblici. L'EU AI Act rappresenta un cambiamento significativo nella regolamentazione dell'intelligenza artificiale, con implicazioni globali per le aziende che operano o vendono prodotti nel mercato europeo. La tecnologia Deepfake pone rischi sostanziali per la protezione del copyright e dell'identità, richiedendo una combinazione di soluzioni tecniche e normative.
Il professor Liu Yang, co-fondatore di AgentLayer, ha evidenziato la natura in evoluzione dei rischi per la sicurezza dell'IA e ha proposto una soluzione innovativa: "Quando si utilizza una soluzione di IA, è fondamentale comprendere i potenziali nuovi attacchi. Ad esempio, abbiamo assistito a innovazioni nei jailbreak dei modelli di IA che possono bypassare i meccanismi di difesa esistenti con un tasso di successo del 100%. Ciò presenta sfide significative per qualsiasi soluzione di IA che sviluppiamo". Liu ha ulteriormente elaborato un nuovo approccio per affrontare queste sfide: "Il potenziamento degli LLM con modelli basati su agenti come validatori e gestori si adatta alle complessità all'interno delle aziende, concentrandosi al contempo sulla creazione di validatori e gestori LLM automatizzati. Invece di considerare semplicemente se gli LLM sono sicuri per le aziende, l'utilizzo di agenti di IA appositamente creati per convalidare e gestire tutte le interazioni LLM può aiutare a garantire risultati sicuri, anche se gli LLM sottostanti stessi non sono sicuri".
Hsu Li-Chuan, partner di Dentons Rodyk, ha sottolineato l'importanza di una comunicazione chiara con le autorità di regolamentazione e gli investitori: "La sfida dell'IA risiede nella sua copertura di numerose aree normative, a differenza dell'e-commerce o persino della tecnologia blockchain. L'IA può coinvolgere domini normativi, di conformità ed etici più ampi. Dobbiamo tenerlo a mente durante qualsiasi attività di raccolta fondi sul mercato pubblico". Yang Jingwei, direttore della tecnologia di sicurezza presso Ant Group, ha sottolineato la necessità di soluzioni tecniche solide: "Per la sicurezza dei dati, ho tre raccomandazioni: stabilire una governance dei dati molto forte, avere politiche e standardizzazione rigorose, essere molto attenti alla trasmissione dei dati e mantenere la trasparenza nell'utilizzo dei dati. Per la proprietà intellettuale, consultare esperti di proprietà intellettuale, cercare la protezione dei brevetti e avere contratti di proprietà intellettuale chiari".
Il moderatore James Liu ha concluso: "I punti chiave sono che la comunicazione con gli investitori, il pubblico e gli enti regolatori è cruciale durante i periodi pre e post IPO. Dato il rapido ritmo dello sviluppo tecnologico che spesso supera la regolamentazione, l'autoregolamentazione e i quadri normativi sono particolarmente importanti. Come ha suggerito il professor Liu, l'utilizzo di agenti AI appositamente progettati per migliorare gli LLM rappresenta una direzione promettente per affrontare gli attuali problemi di sicurezza e protezione del settore AI".
Gli esperti hanno concordato all'unanimità che, con la rapida evoluzione dell'IA, le aziende devono anticipare le questioni di governance per completare con successo il processo di IPO e mantenere la fiducia del pubblico. Il dialogo continuo tra industria, mondo accademico e organismi di regolamentazione svolgerà un ruolo chiave nel dare forma ad approcci di governance dell'IA equilibrati, mentre tecnologie emergenti come gli agenti di IA saranno fondamentali per garantire l'implementazione sicura ed efficace dei sistemi di IA.