OpenAI nasiliło działania przeciwko kontom powiązanym z Iranem, które za pomocą ChatGPT rozpowszechniają dezinformacje na temat wyborów w USA.
Śledztwo OpenAI ujawnia, że irańska operacja wpływu opiera się na sztucznej inteligencji i jest skierowana zarówno do postępowych, jak i konserwatywnych odbiorców.
Działania te podkreślają zaangażowanie OpenAI w walkę z zagraniczną ingerencją w wybory w USA za pomocą technologii AI.
OpenAI nasiliło represje wobec kont powiązanych z Iranem, które wykorzystywały swoje platformy do rozpowszechniania dezinformacji na temat wyborów prezydenckich w USA. Ostatni wzrost liczby takich działań przyciągnął znaczną uwagę, zwłaszcza po tym, jak kampania wyborcza Donalda Trumpa zgłosiła naruszenie bezpieczeństwa powiązane z irańskimi hakerami. Firma AI zidentyfikowała i zablokowała wiele kont powiązanych z irańską operacją wpływu, nazwaną „Storm-2035”.
https://twitter.com/itsandrewgao/status/1824570091629056512 Celowa dezinformacja na różne tematy
Konta wykorzystywały generatywne technologie sztucznej inteligencji OpenAI, w szczególności ChatGPT, do tworzenia i rozpowszechniania fałszywych informacji na różne tematy, ze szczególnym uwzględnieniem wyborów w USA. Operacje te obejmowały zarówno produkowanie długich artykułów, jak i krótkich komentarzy w mediach społecznościowych, udostępnianych na wielu platformach. Tematy obejmowały wybory w USA, konflikt w Strefie Gazy, udział Izraela w igrzyskach olimpijskich i inne.
Co więcej, OpenAI sklasyfikowało operację jako zagrożenie niskiego poziomu na podstawie Brookings' Breakout Scale, zauważając, że posty wzbudziły niewielkie zainteresowanie. Pomimo ograniczonego wpływu firma uznała znaczenie monitorowania i zapobiegania takim operacjom zagranicznego wpływu, podkreślając potrzebę wzmożonej czujności.
Szersze zaangażowanie OpenAI w etykę AI
Co istotne, dochodzenie firmy AI wykazało, że operacja była skierowana zarówno do postępowych, jak i konserwatywnych odbiorców. Konta podawały się za legalne serwisy informacyjne i użytkowników mediów społecznościowych, czasami naśladując komentarze prawdziwych użytkowników, aby sprawiać wrażenie autentycznych. Ta taktyka podkreślała wyrafinowany charakter operacji, pomimo jej ograniczonego sukcesu.
Poza tym, moment ogłoszenia OpenAI jest godny uwagi, nastąpił krótko po tym, jak kampania Trumpa poinformowała o naruszeniu bezpieczeństwa przypisywanym irańskim hakerom. Działania firmy podkreślają jej szersze zaangażowanie w przejrzystość i etyczne wykorzystanie AI, szczególnie w zabezpieczaniu procesów politycznych przed zagraniczną ingerencją.
Ben Nimmo, główny śledczy OpenAI ds. wywiadu i śledztw, oświadczył, że jest to pierwszy przypadek, w którym firma wykryła operację wymierzoną konkretnie w wybory w USA.
Podkreślił znaczenie zachowania czujności, ale spokoju, ponieważ operacja miała minimalny zasięg. Ponadto raport przyczynia się do rosnących dowodów na skoncentrowane na technologii próby Iranu wpłynięcia na wybory w USA.
Artykuł OpenAI walczy z kontami powiązanymi z Iranem, wykorzystując sztuczną inteligencję do dezinformacji na temat wyborów w USA, ukazał się po raz pierwszy w serwisie Crypto News Land.