Міністерство торгівлі під керівництвом адміністрації Байдена прагне до нової ініціативи з дотримання вимог щодо подальшого обмеження експорту моделей штучного інтелекту з відкритим або закритим кодом. Ця ініціатива є спробою захистити інтереси США та технології штучного інтелекту від Росії та Китаю та доповнить кроки, вжиті протягом останніх двох років, щоб заблокувати доступ Китаю до новітніх передових комп’ютерних чіпів.

Зусилля США полягають у встановленні суворіших захисних бар’єрів навколо основного програмного забезпечення великих мовних моделей, які працюють у програмах, таких як ChatGPT, повідомляє Reuters із посиланням на три джерела, знайомі з цим питанням. У той час як постачальник новин стверджував, що дослідники в приватному секторі та уряді стурбовані тим фактом, що вороги США можуть використовувати цю технологію для агресивних кібератак і розробки біологічної зброї, посольство Китаю виступило проти цього кроку та описало його як одностороннє залякування та економічну шкоду. примус.

Діпфейки – це смертоносна зброя дезінформації

Загроз, яких бояться США, багато, і вони можуть бути використані недержавними акторами, яких підтримують держави. Deepfakes можна використовувати як ефективну зброю для пропаганди, оскільки вони містять реалістичні, але підроблені відео, створені за допомогою інструментів ШІ.

Подібні відео вже з’являються в соціальних мережах. Хоча такий медіа-контент існує протягом останніх кількох років, розроблений за допомогою програмного забезпечення для анімації та візуалізації, генеративні інструменти штучного інтелекту спрощують створення для будь-кого, а шахраї можуть використовувати їх легше, ніж будь-коли раніше, для маніпулювання громадською думкою щодо делікатних питань , особливо під час виборчих кампаній.

Соціальні медіа-платформи, такі як YouTube, Facebook і Twitter, уже вжили заходів для обмеження дипфейків, але тактика їх розробки та публікації також змінюється з розвитком технологій. На даний момент інструменти таких компаній, як Microsoft і OpenAI, можна використовувати для створення контенту для поширення дезінформації.

За словами дослідників Rand Corporation і Gryphon Scientific, набагато більше занепокоєння викликає те, що моделі штучного інтелекту можуть витікати з інформації для розробки біологічної зброї, а розвідувальні служби США, академічні експерти та аналітичні центри стурбовані можливістю того, що штучний інтелект потрапить у руки шахраїв. елементів.

Дослідження Gryphon визначило, як LLM можуть виробляти експертні знання та знання докторського рівня, які можуть допомогти у розробці вірусів, які мають пандемічні можливості, і це може бути використано недержавними суб’єктами як біологічна зброя.

Посилені кібератаки за допомогою моделей ШІ

Міністерство внутрішньої безпеки також висловило занепокоєння тим, що кібератаки на таку важливу інфраструктуру, як залізниці та трубопроводи, можуть бути здійснені за допомогою штучного інтелекту шляхом розробки нових інструментів, які будуть здатні здійснювати більш масштабні та складніші кібератаки та швидше.

Агентство також повідомило, що Китай розробляє програмне забезпечення штучного інтелекту, яке можна використовувати для атак зловмисного програмного забезпечення, а також працює над технологіями ШІ, які потенційно можуть саботувати кіберзахист країни.

Функції та організації, що утворюють екосистему Комуністичної партії Китаю. Джерело: Microsoft.

Ще в лютому Microsoft опублікувала звіт, у якому зазначила, що виявила кібергрупи, залучені до хакерської діяльності, які вдосконалюють свої хакерські кампанії, використовуючи LLM, і вони пов’язані з військовою розвідкою Росії, урядами Північної Кореї та Китаю, і Революційна гвардія Ірану.

Компанія оголосила про заборону фінансованих державою кібергруп, які використовують її продукти та послуги ШІ. У середу група державних діячів запропонувала законопроект, який допоможе уряду Байдена посилити контроль над експортом моделей штучного інтелекту, щоб запобігти їхньому впливу потенційних супротивників.

Експерти з цього питання кажуть, що Вашингтон намагається уникати жорстких правил, які можуть пригнічувати інновації, оскільки вони намагаються сприяти інноваціям разом із можливими рішеннями для ризиків, пов’язаних зі ШІ. Вони також підкреслили, що дотримання суворих правил шляхом суворого регулювання розвитку ШІ створить вакуум для закордонних конкурентів і негативно вплине на сфери інфраструктури, національної безпеки та відкриття ліків.