OpenAI усиливает борьбу с аккаунтами, связанными с Ираном, которые распространяют дезинформацию о выборах в США с помощью ChatGPT.
Расследование OpenAI раскрывает деятельность Ирана по оказанию влияния с использованием искусственного интеллекта, нацеленную как на прогрессивную, так и на консервативную аудиторию.
Репрессии подчеркивают приверженность OpenAI борьбе с иностранным вмешательством в выборы в США с помощью технологий искусственного интеллекта.
OpenAI усилила борьбу с аккаунтами, связанными с Ираном, которые используют ее платформы для распространения дезинформации о президентских выборах в США. Недавний всплеск этой деятельности привлек значительное внимание, особенно после того, как предвыборная кампания Дональда Трампа сообщила о взломе системы безопасности, связанном с иранскими хакерами. Компания ИИ выявила и заблокировала многочисленные аккаунты, связанные с операцией влияния Ирана, получившей название «Шторм-2035».
https://twitter.com/itsandrewgao/status/1824570091629056512 Целенаправленная дезинформация по различным темам
Аккаунты использовали генеративные технологии ИИ OpenAI, в частности ChatGPT, для создания и распространения ложной информации по различным темам, с сильным акцентом на выборах в США. Эти операции включали создание как длинных статей, так и кратких комментариев в социальных сетях, которые распространялись на нескольких платформах. Темы варьировались от выборов в США до конфликта в Газе, участия Израиля в Олимпийских играх и других.
Более того, OpenAI классифицировала операцию как угрозу низкого уровня на основе шкалы прорыва Brookings, отметив, что посты получили мало откликов. Несмотря на ограниченное воздействие, фирма признала важность мониторинга и предотвращения таких операций иностранного влияния, подчеркнув необходимость повышенной бдительности.
Расширение обязательств OpenAI в отношении этики ИИ
Примечательно, что расследование AI-фирмы показало, что операция была нацелена как на прогрессивную, так и на консервативную аудиторию. Аккаунты выдавали себя за легитимные новостные агентства и пользователей социальных сетей, иногда имитируя комментарии реальных пользователей, чтобы казаться подлинными. Эта тактика подчеркивала сложную природу операции, несмотря на ее ограниченный успех.
Кроме того, примечательно время объявления OpenAI, которое произошло вскоре после того, как кампания Трампа сообщила о нарушении безопасности, приписываемом иранским хакерам. Действия компании подчеркивают ее более широкую приверженность прозрачности и этическому использованию ИИ, особенно в защите политических процессов от иностранного вмешательства.
Бен Ниммо, главный следователь OpenAI по разведке и расследованиям, заявил, что это первый случай, когда компания обнаружила операцию, специально нацеленную на выборы в США.
Он подчеркнул важность сохранения бдительности, но и спокойствия, поскольку операция имела минимальный охват. Кроме того, отчет вносит свой вклад в растущее количество доказательств технологически-ориентированных попыток Ирана повлиять на выборы в США.
Публикация OpenAI борется со связанными с Ираном аккаунтами, использующими ИИ для дезинформации о выборах в США, впервые появилась на сайте Crypto News Land.
