BlueSky widzi wzrost nowych użytkowników i szkodliwych treści

BlueSky, szybko rozwijająca się platforma mediów społecznościowych, zgłosiła znaczący wzrost szkodliwych treści w związku z napływem nowych użytkowników.

BlueSky jest obecnie idealnym przykładem tego, co się dzieje, gdy ochrona dzieci nie jest priorytetem i jest pomniejszana na rzecz rentowności.

Jest zalane kontami pedofilskimi/MAP🤮 Jeśli zdecydujesz się tam ulokować swoje siły, to z kim dzielisz swoje łóżko.

Zostaję przy X. pic.twitter.com/mb7ijyJdgS

— Przeczytaj trochę Piaget, proszę! (@prof_curiosity1) 22 listopada 2024

W odpowiedzi platforma ogłosiła szeroką akcję moderacyjną mającą na celu usunięcie niewłaściwych obrazów z jej sieci.

Konto bezpieczeństwa BlueSky opublikowało:

„Doświadczamy ogromnego napływu użytkowników, a z tym przewidywalnego wzrostu szkodliwych treści publikowanych w sieci. W związku z tym, w przypadku niektórych obszarów polityki o bardzo wysokim stopniu zagrożenia, takich jak bezpieczeństwo dzieci, niedawno podjęliśmy kilka krótkoterminowych wyborów moderacyjnych, aby priorytetować przypomnienie nad precyzję.”

1/ Doświadczamy ogromnego napływu użytkowników, a z tym przewidywalnego wzrostu szkodliwych treści publikowanych w sieci. W związku z tym, w przypadku niektórych obszarów polityki o bardzo wysokim stopniu zagrożenia, takich jak bezpieczeństwo dzieci, niedawno podjęliśmy kilka krótkoterminowych wyborów moderacyjnych, aby priorytetować przypomnienie nad precyzję.

— Bluesky Safety (@safety.bsky.app) 26 listopada 2024 o 8:08

Użytkownicy opuścili X na rzecz BlueSky

Po niedawnej wygranej prezydenta elekt Donalda Trumpa, miliony użytkowników opuściły X (dawniej znany jako Twitter), szukając alternatywnych platform.

Ten exodus zaowocował znacznym wzrostem konkurencji, przy czym Threads Meta zyskało 35 milionów nowych użytkowników, a BlueSky, zdecentralizowana platforma założona przez byłego dyrektora generalnego Twittera Jacka Dorseya, przyciągnęła 20 milionów użytkowników w zaledwie trzy tygodnie.

Ten wzrost dodał się do ponad miliona Brazylijczyków, którzy już dołączyli do BlueSky po tym, jak sąd w Brazylii zakazał X we wrześniu.

BlueSky odnotowało kolejny wzrost w październiku po tym, jak właściciel X Elon Musk ogłosił, że tweetów można używać do szkolenia AI Grok, co dodatkowo przyciągnęło użytkowników na platformę.

jeśli widziałeś powiadomienie o aktualizacji Warunków korzystania z usług, to jest główny punkt, który się zmienił.

wyraźnie pozwala Twitterowi używać twoich postów i wszelkich załączonych mediów - w tym obrazów, filmów i ich dźwięku - do szkolenia modeli AI, takich jak Grok.

będzie obowiązywać od 15 listopada. pic.twitter.com/tuQsmclv3a

— ryan fae (@RhinozzCode) 16 października 2024

BlueSky podejmuje wysiłki moderacyjne w obliczu doniesień o szkodliwych treściach

W obliczu swojego szybkiego wzrostu, BlueSky zmierzyło się z niepokojącym wzrostem szkodliwych treści, w tym spamu, oszustw i trollingu, a także alarmującym wzrostem materiałów wykorzystywania seksualnego dzieci.

Według witryny technologicznej Platformer, platforma potwierdziła dwa przypadki treści seksualnych skierowanych do dzieci w 2023 roku, ale na początku grudnia liczba ta wzrosła do ośmiu.

BlueSky potwierdziło:

„W ciągu ostatnich 24 godzin otrzymaliśmy ponad 42 000 zgłoszeń (najwyższy wynik w historii w ciągu jednego dnia). Otrzymujemy około 3 000 zgłoszeń na godzinę. Dla porównania, w całym 2023 roku otrzymaliśmy 360 000 zgłoszeń.”

W odpowiedzi BlueSky przyznało, że jego agresywne działania moderacyjne mogły prowadzić do przypadków „przesadnej egzekucji”, co skutkowało niesłusznymi zawieszeniami kont.

Niektóre konta zostały przywrócone, podczas gdy inne pozostają w trakcie przeglądu w związku z potencjalnymi apelacjami.

Firma wyraziła:

„Rozszerzamy nasz zespół moderacyjny, aby poprawić zarówno terminowość, jak i dokładność naszych działań moderacyjnych.”

4/ Rozszerzamy nasz zespół moderacyjny, aby poprawić zarówno terminowość, jak i dokładność naszych działań moderacyjnych. Dziękujemy za zrozumienie i opinie.

— Bluesky Safety (@safety.bsky.app) 26 listopada 2024 o 8:08

Aby stawić czoła tym wyzwaniom, BlueSky nawiązało współpracę z Thorn, organizacją non-profit z siedzibą w Los Angeles, w styczniu w celu zwalczania głębokich fałszywek generowanych przez AI i innych szkodliwych treści.

Technologia Safer Thorn, napędzana AI, która pomaga w wykrywaniu materiałów wykorzystywania seksualnego dzieci (CSAM) na różnych platformach, została zintegrowana z systemem moderacyjnym BlueSky.

Ta technologia może identyfikować nie tylko treści explicite, ale także materiał tekstowy, który może wskazywać na potencjalne zagrożenia dla dzieci. X, który zezwala na treści dla dorosłych, również przyjął technologię Thorn w celu zmniejszenia CSAM na swojej platformie.

Rebecca Portnoff, wiceprezes Thorn ds. danych, powiedziała:

„Wiele się nauczyliśmy z naszych testów beta. Chociaż wiedzieliśmy, że wykorzystywanie seksualne dzieci przejawia się w różnych typach treści, w tym tekstowych, konkretnie w tych testach beta zobaczyliśmy, jak uczenie maszynowe/AI dla tekstu może mieć rzeczywisty wpływ na dużą skalę.”

Komisja Europejska celuje w BlueSky za naruszenie regulacji UE

BlueSky, szybko rozwijająca się platforma mediów społecznościowych, która zyskała popularność po masowym exodusie z X Elona Muska, teraz stoi w obliczu kontroli ze strony Komisji Europejskiej za niewłaściwe ujawnienie istotnych szczegółów operacyjnych.

SZOK: UE celuje w BlueSky za handel treściami, które stanowią wykorzystywanie seksualne dzieci. BlueSky stał się najlepszym miejscem do dzielenia się eksploatacyjnymi treściami związanymi z dziećmi. https://t.co/RWtPHvHTTl

— @amuse (@amuse) 25 listopada 2024

Rzecznik Komisji Thomas Regnier wyjaśnił:

„Wszystkie platformy w UE . . . muszą mieć dedykowaną stronę na swojej stronie internetowej, na której podano, ile mają użytkowników w UE i gdzie są prawnie zarejestrowane. Dziś tak nie jest w przypadku BlueSky. To nie jest przestrzegane.”

To naruszenie regulacji UE następuje w momencie, gdy tysiące, w tym przewodnicząca Komisji Ursula von der Leyen, niedawno dołączyły do platformy.

Wzrost BlueSky był częściowo napędzany poparciem Muska dla prezydenta elekt USA Donalda Trumpa oraz jego decyzją o złagodzeniu polityki moderacji treści - ruchów, które wydają się przyciągać znaczną liczbę akademików, dziennikarzy i lewicowych polityków do platformy.

Komisja Europejska napisała do państw członkowskich UE, aby zbadać obecność platformy w regionie, w tym wysiłki mające na celu ustalenie, czy istnieje biuro z siedzibą w UE.

Jednak nie skontaktowała się jeszcze bezpośrednio z BlueSky.

Ta interwencja jest częścią szerszego trendu, ponieważ regulatorzy intensyfikują swoje wysiłki w zakresie potencjalnych naruszeń Dyrektywy o Usługach Cyfrowych UE, szczególnie w kontekście dochodzenia dotyczącego X Muska w sprawie niezgodności dotyczącej rozprzestrzeniania nielegalnych treści i dezinformacji.

Chociaż BlueSky obecnie nie spełnia progu 45 milionów użytkowników miesięcznie wymaganego do zakwalifikowania jako „bardzo duża platforma internetowa” zgodnie z regulacjami UE, Komisja stwierdziła, że jeśli zidentyfikowane zostanie biuro reprezentacyjne, podejmie dalsze działania.