OpenAI посилює свою боротьбу з обліковими записами, пов’язаними з Іраном, які поширюють дезінформацію про вибори в США за допомогою ChatGPT.
Розслідування OpenAI розкриває операцію впливу Ірану за допомогою штучного інтелекту, спрямовану як на прогресивну, так і на консервативну аудиторію.
Репресії підкреслюють прихильність OpenAI боротися з іноземним втручанням у вибори в США за допомогою технології ШІ.
OpenAI посилив свою боротьбу з обліковими записами, пов’язаними з Іраном, які використовують його платформи для поширення дезінформації про президентські вибори в США. Недавній сплеск цієї діяльності привернув значну увагу, особливо після того, як передвиборча кампанія Дональда Трампа повідомила про порушення безпеки, пов’язане з іранськими хакерами. Фірма штучного інтелекту ідентифікувала та заборонила численні облікові записи, пов’язані з операцією впливу Ірану під назвою «Шторм-2035».
https://twitter.com/itsandrewgao/status/1824570091629056512 Цілеспрямована дезінформація на різні теми
Облікові записи використовували генеративні технології штучного інтелекту OpenAI, зокрема ChatGPT, для створення та поширення неправдивої інформації на різні теми, з упором на вибори в США. Ці операції передбачали створення як довгих статей, так і коротких коментарів у соціальних мережах, які поширювалися на кількох платформах. Теми були різноманітні: від виборів у США до конфлікту в Газі, участі Ізраїлю в Олімпійських іграх та інші.
Крім того, OpenAI класифікував операцію як загрозу низького рівня на основі шкали прориву Брукінгса, зазначивши, що дописи мало залучені. Незважаючи на обмежений вплив, фірма визнала важливість моніторингу та запобігання таким операціям зовнішнього впливу, наголошуючи на необхідності підвищеної пильності.
Більш широке зобов’язання OpenAI щодо етики ШІ
Важливо, що розслідування фірми AI показало, що операція була спрямована як на прогресивну, так і на консервативну аудиторію. Облікові записи видавалися за справжніх користувачів новин і соціальних мереж, іноді імітуючи коментарі справжніх користувачів, щоб виглядати справжніми. Ця тактика підкреслювала складний характер операції, незважаючи на її обмежений успіх.
Крім того, примітно, що OpenAI опублікував заяву незабаром після того, як кампанія Трампа повідомила про порушення безпеки, пов’язане з іранськими хакерами. Дії компанії підкреслюють її ширшу прихильність до прозорості та етичного використання ШІ, зокрема для захисту політичних процесів від іноземного втручання.
Бен Німмо, головний дослідник OpenAI з розвідки та розслідувань, заявив, що це був перший випадок, коли компанія виявила операцію, спрямовану саме на вибори в США.
Він наголосив на важливості бути напоготові, але зберігати спокій, оскільки операція мала охоплення. Крім того, звіт сприяє зростанню доказів техноцентричних спроб Ірану вплинути на вибори в США.
Повідомлення OpenAI бореться з обліковими записами, пов’язаними з Іраном, використовуючи штучний інтелект для дезінформації про вибори в США, вперше з’явилося на Crypto News Land.
