Уряд Великобританії цікавиться думкою людей щодо абсолютно нового набору добровільних правил кібербезпеки ШІ. «Практичний кодекс кібербезпеки штучного інтелекту» складатиметься з пропозицій, які розробники можуть використовувати для захисту своїх продуктів і послуг ШІ від злому, саботажу або втручання. На конференції CYBERUK міністр технологій Сакіб Бхатті заявив, що нові рекомендації стануть основою для глобального стандарту кібербезпеки штучного інтелекту та дозволять британським компаніям захистити себе від кібератак.

Захист систем ШІ

Бхатті сказав, що зробити цифрову економіку потужною силою для країни; ми повинні забезпечити безпечне середовище для його росту та розвитку. Це саме те, що вони роблять із цими новими заходами, у яких моделі ШІ на етапі проектування будуть стійкими до ворогів. DSIT і NCSC створили кодекс практики для розробки кіберзахищених систем ШІ на основі керівних принципів NCSC щодо безпечної системи ШІ, опублікованих минулого року. 

Публікація проекту Кодексу кібербезпеки штучного інтелекту з’явилася в період неоднозначних новин для кібербезпеки Великобританії. За даними уряду, минулого року цей сектор зріс на 13%, але за той самий період об’єктами порушень стали половина компаній і майже третина благодійних організацій.

Зростаючий попит на генеративний штучний інтелект серед компаній, ймовірно, створить для кіберзлочинців нові способи здійснення атак. Системи GenAI найбільше постраждали від отруєння даних і крадіжки моделей, каже Кевін Каррен, професор кібербезпеки в Ольстерському університеті та старший співробітник Інституту інженерів з електротехніки та електроніки. Якщо компанії не можуть довести, як працюють системи GenAI і як вони дійшли своїх висновків, підзвітність стає проблемою, а інші потенційні ризики неможливо знайти.

Протидія новим кіберзагрозам

За словами виконавчого директора NCSC Фелісіті Освальд, нові рекомендації щодо кібербезпеки штучного інтелекту нададуть компаніям список найкращих практик і рекомендацій щодо вирішення цих проблем. Нові кодекси практики допоможуть їм у створенні індустрії кібербезпеки для розробки моделей ШІ та програмного забезпечення, щоб вони були безпечними та стійкими до атак зловмисників. Освальд сказав, що встановлення стандартів нашої безпеки зміцнить колективну стійкість, і він похвалив організації за дотримання цих вимог, щоб зберегти безпеку Великобританії в Інтернеті. За словами Каррена, запит на перегляд триватиме до тих пір, поки компанії, що займаються додатками штучного інтелекту, не почнуть вживати заходів для посилення своєї безпеки.

За його словами, організації повинні спілкуватися з експертами із захисту даних і стежити за змінами в регулятивній практиці, що не тільки допомагає уникнути юридичних проблем, але й допомагає зберегти довіру споживачів, забезпечуючи етичні практики ШІ та цілісність даних. Інші найкращі практики стосуються використання даних, яке слід мінімізувати та зробити анонімним, слід встановити політику управління даними, середовища даних мають бути захищені, персонал має бути поінформований щодо поточних протоколів безпеки, впливу та перевірки повинні проводитися постійно. 

Денний заклик до надання думок щодо обох кодексів практики слід розглядати в контексті всієї роботи консервативного уряду щодо безпеки штучного інтелекту, на яку звернув увагу міністр штучного інтелекту та інтелектуальної власності віконт Кемроуз. Політика конкретних схем опозиційної Лейбористської партії досі не уточнюється, хоча Зелена книга про технологічну політику, обіцяна минулого року, відсутня. Тим не менш, тіньовий секретар DSIT Пітер Кайл пообіцяв сьогодні, що партія оприлюднить свої погляди на ШІ найближчими тижнями на тлі політичного поштовху перед загальними виборами.