Министерство торговли при администрации Байдена стремится к новой инициативе по соблюдению требований, чтобы еще больше ограничить экспорт моделей искусственного интеллекта с открытым или закрытым исходным кодом. Эта инициатива является попыткой защитить интересы США и технологии искусственного интеллекта от России и Китая и дополнит шаги, предпринятые за последние два года по блокированию доступа Китая к новейшим передовым компьютерным чипам.

Усилия США заключаются в том, чтобы установить более строгие защитные барьеры вокруг основного программного обеспечения крупных языковых моделей, на которых работают такие приложения, как ChatGPT, сообщает Reuters со ссылкой на три источника, знакомых с этим вопросом. Хотя новостной ресурс заявил, что исследователи в частном секторе и правительстве обеспокоены тем фактом, что противники США могут использовать эту технологию для агрессивных кибератак и разработки биологического оружия, посольство Китая выступило против этого шага и назвало его односторонним запугиванием и экономическим вмешательством. принуждение.

Дипфейки — смертельное оружие дезинформации

Угрозы, которых опасаются США, многочисленны и могут быть использованы негосударственными субъектами, поддерживаемыми государствами. Дипфейки могут использоваться в качестве эффективного оружия пропаганды, поскольку они включают в себя реалистичные, но фальшивые видеоролики, созданные с помощью инструментов искусственного интеллекта.

Подобные видеоролики уже появляются в социальных сетях. Хотя такой медиаконтент существует уже несколько лет и разрабатывается с помощью программного обеспечения для анимации и рендеринга, инструменты генеративного искусственного интеллекта упростили его создание для всех, а мошенники могут использовать их с большей легкостью, чем когда-либо прежде, для манипулирования общественным мнением по деликатным вопросам. , особенно во время избирательных кампаний.

Платформы социальных сетей, такие как YouTube, Facebook и Twitter, уже предприняли шаги по ограничению дипфейков, но тактика их разработки и публикации также меняется с развитием технологий. На данный момент инструменты таких компаний, как Microsoft и OpenAI, можно использовать для создания контента для распространения дезинформации.

Гораздо большую озабоченность вызывает то, что модели ИИ могут передавать информацию для разработки биологического оружия, по мнению исследователей из Rand Corporation и Gryphon Scientific, а спецслужбы США, академические эксперты и аналитические центры обеспокоены возможностью попадания ИИ в руки мошенников. элементы.

Исследование Gryphon выявило, как студенты магистратуры могут генерировать экспертные знания и знания докторского уровня, которые могут помочь в разработке вирусов, обладающих пандемическими способностями, и которые могут быть использованы негосударственными субъектами в качестве биологического оружия.

Усиление кибератак с использованием моделей искусственного интеллекта

Министерство внутренней безопасности также выразило обеспокоенность тем, что кибератаки на жизненно важную инфраструктуру, такую ​​как железные дороги и трубопроводы, могут быть осуществлены с помощью ИИ путем разработки новых инструментов, которые будут способны проводить более масштабные и сложные кибератаки и быстрее.

Агентство также сообщило, что Китай разрабатывает программное обеспечение искусственного интеллекта, которое можно использовать для атак вредоносных программ, а также работает над технологиями искусственного интеллекта, которые потенциально могут подорвать киберзащиту страны.

Функции и субъекты, формирующие экосистему Коммунистической партии Китая. Источник: Майкрософт.

Еще в феврале Microsoft опубликовала отчет, в котором отметила, что выявила кибергруппы, занимающиеся хакерской деятельностью, которые совершенствуют свои хакерские кампании, используя LLM, и имеют связи с военной разведкой России, правительств Северной Кореи и Китая. и Революционная гвардия Ирана.

Компания объявила о запрете финансируемым государством кибергруппам, которые используют ее продукты и услуги искусственного интеллекта. В среду группа государственных деятелей предложила законопроект, который поможет правительству Байдена обеспечить контроль над экспортом моделей искусственного интеллекта, чтобы предотвратить их доступ к потенциальным противникам.

Эксперты по этому вопросу заявили, что Вашингтон пытается избежать властных правил, которые могут подавить инновации, поскольку они пытаются стимулировать инновации наряду с возможными решениями рисков, связанных с ИИ. Они также подчеркнули, что введение строгих правил путем строгого регулирования развития ИИ создаст вакуум для зарубежных конкурентов и негативно повлияет на области инфраструктуры, национальной безопасности и открытия лекарств.