Згідно з BlockBeats, експерти з секторів AI Agent, узгодження безпеки, інтелектуальної власності та відповідності зібралися на форумі AI Apex Asia Capital Connect, щоб обговорити складне середовище, з яким стикаються компанії AI, які готуються до первинного публічного розміщення акцій (IPO). Круглий стіл, модератором якого був Джеймс Лю, міжнародний директор Alibaba Cloud, надав важливу інформацію про нормативно-правовий ландшафт, що розвивається, і успішні стратегії керування ним.
Основні питання обговорення включали безпрецедентні проблеми, з якими стикаються компанії штучного інтелекту щодо конфіденційності даних, захисту інтелектуальної власності та дотримання нормативних вимог під час підготовки до IPO. Швидкі темпи інновацій штучного інтелекту часто випереджають розвиток нормативно-правової бази, що вимагає проактивного управління ризиками та ефективного спілкування із зацікавленими сторонами. Співпраця між компаніями штучного інтелекту та регуляторними органами має важливе значення для розробки структур, які сприяють інноваціям, одночасно захищаючи суспільні інтереси. Закон ЄС про штучний інтелект означає значні зміни в регулюванні штучного інтелекту з глобальними наслідками для компаній, які працюють або продають продукцію на європейському ринку. Технологія Deepfake створює значні ризики для захисту авторського права та ідентифікації, вимагаючи поєднання технічних і регуляторних рішень.
Професор Лю Ян, співзасновник AgentLayer, підкреслив еволюцію ризиків безпеки ШІ та запропонував інноваційне рішення: «Під час використання будь-якого рішення ШІ вкрай важливо розуміти потенційні нові атаки. Наприклад, ми бачили прориви в моделях джейлбрейків ШІ, які можуть обійти існуючі механізми захисту зі 100% успіхом. Це створює значні проблеми для будь-якого рішення ШІ, яке ми розробляємо». Далі Лю розповів про новий підхід до вирішення цих проблем: «Удосконалення LLM за допомогою моделей на основі агентів як валідаторів і менеджерів адаптується до складнощів на підприємствах, зосереджуючись на створенні автоматизованих валідаторів і менеджерів LLM. Замість того, щоб просто розглядати, чи LLM безпечні для підприємств, використання спеціально створених агентів штучного інтелекту для перевірки та керування всіма взаємодіями LLM може допомогти забезпечити безпечні результати, навіть якщо базові LLM самі по собі небезпечні».
Хсу Лі-Чуан, партнер Dentons Rodyk, наголосив на важливості чіткої комунікації з регуляторами та інвесторами: «Проблема штучного інтелекту полягає в тому, що він охоплює численні сфери регулювання, на відміну від електронної комерції чи навіть технології блокчейн. ШІ може включати ширші сфери регулювання, відповідності та етики. Ми повинні пам’ятати про це під час будь-яких заходів зі збору коштів на публічному ринку». Ян Цзінвей, директор із технологій безпеки в Ant Group, наголосив на необхідності надійних технічних рішень: «Щоб захистити дані, у мене є три рекомендації: установіть дуже надійне управління даними, дотримуйтесь суворої політики та стандартизації, будьте дуже обережні з передачею даних і підтримуйте прозорість у використанні даних. Щодо інтелектуальної власності проконсультуйтеся з експертами з інтелектуальної власності, шукайте патентного захисту та укладайте чіткі договори про право власності на інтелектуальну власність».
Модератор Джеймс Лю підсумував: «Ключовими моментами є те, що спілкування з інвесторами, громадськістю та регуляторами має вирішальне значення під час періодів до та після IPO. Враховуючи швидкий темп технологічного розвитку, який часто випереджає регулювання, саморегулювання та рамки є особливо важливими. Як запропонував професор Лю, використання спеціально створених агентів штучного інтелекту для вдосконалення LLM є перспективним напрямком для вирішення поточних проблем безпеки та безпеки індустрії штучного інтелекту».
Експерти одностайно погодилися, що в умовах швидкого розвитку ШІ компанії повинні випереджати проблеми управління, щоб успішно завершити процес IPO та зберегти довіру громадськості. Постійний діалог між галуззю, академічними колами та регуляторними органами відіграватиме ключову роль у формуванні збалансованих підходів до управління штучним інтелектом, тоді як нові технології, такі як агенти штучного інтелекту, матимуть центральне значення для забезпечення безпечного та ефективного розгортання систем штучного інтелекту.