BlueSky Observă o Creștere a Utilizatorilor Noi și a Conținutului Dăunător

BlueSky, platforma de socializare în rapidă expansiune, a raportat o creștere semnificativă a conținutului dăunător alături de un aflux de utilizatori noi.

BlueSky este în prezent exemplul perfect al a ceea ce se întâmplă când protejarea copiilor nu este prioritizată și este diminuată în favoarea profiturilor.

Este plină de conturi pedofilice/MAP🤮 Dacă alegi să îți faci patul acolo, aceasta este compania cu care te împarți.

Rămân la X. pic.twitter.com/mb7ijyJdgS

— Citește puțin din Piaget, te rog! (@prof_curiosity1) 22 noiembrie 2024

Ca răspuns, platforma a anunțat un efort de moderare extins destinat eliminării imaginilor inadecvate din rețeaua sa.

Contul de Siguranță al BlueSky a postat:

„Experiența noastră este că ne confruntăm cu un aflux uriaș de utilizatori și, cu asta, o creștere previzibilă a conținutului dăunător postat pe rețea. Drept rezultat, pentru unele zone de politică cu severitate foarte mare, cum ar fi siguranța copiilor, am făcut recent unele alegeri pe termen scurt în moderare pentru a prioritiza recall-ul în detrimentul preciziei.”

1/ Ne confruntăm cu un aflux uriaș de utilizatori și, cu asta, o creștere previzibilă a conținutului dăunător postat pe rețea. Drept rezultat, pentru unele zone de politică cu severitate foarte mare, cum ar fi siguranța copiilor, am făcut recent unele alegeri pe termen scurt în moderare pentru a prioritiza recall-ul în detrimentul preciziei.

— Bluesky Safety (@safety.bsky.app) 26 noiembrie 2024, la 8:08 AM

Utilizatorii Au Abandonat X pentru BlueSky

După victoria recentă a președintelui ales Donald Trump, milioane de utilizatori au abandonat X (cunoscut anterior sub numele de Twitter), căutând platforme alternative.

Această migrație a dus la o creștere semnificativă pentru concurenți, cu Threads de la Meta câștigând 35 de milioane de utilizatori noi și BlueSky, platforma descentralizată fondată de fostul CEO Twitter Jack Dorsey, atrăgând 20 de milioane în doar trei săptămâni.

Această creștere s-a adăugat la cei peste un milion de brazilieni care s-au alăturat deja BlueSky după ce o instanță din Brazilia a interzis X în septembrie.

BlueSky a văzut o altă creștere în octombrie după ce proprietarul X, Elon Musk, a anunțat că tweeturile ar putea fi folosite pentru a antrena Grok AI, continuând să atragă utilizatori pe platformă.

dacă ai văzut acel anunț despre o actualizare a Termenilor de Serviciu, aceasta este clauza principală care s-a schimbat.

aceasta le permite explicit celor de la Twitter să folosească postările tale și orice media atașată — inclusiv imagini, videoclipuri și audio — pentru antrenarea modelelor AI precum Grok.

va fi în vigoare pe 15 noiembrie. pic.twitter.com/tuQsmclv3a

— ryan fae (@RhinozzCode) 16 octombrie 2024

BlueSky Întreprinde Eforturi de Moderare în Contextul Raporturilor de Conținut Dăunător

În mijlocul creșterii sale rapide, BlueSky s-a confruntat cu o creștere îngrijorătoare a conținutului dăunător, inclusiv spam, escrocherii și trolling, alături de o creștere alarmantă a materialelor de abuz sexual asupra copiilor.

Conform site-ului de tehnologie Platformer, platforma a confirmat două cazuri de conținut sexual orientat către copii în 2023, dar până la începutul lunii decembrie, acest număr crescuse la opt.

BlueSky a confirmat:

„În ultimele 24 de ore, am primit mai mult de 42.000 de rapoarte (un record absolut pentru o zi). Primim aproximativ 3.000 de rapoarte/oră. Pentru a pune asta în context, în tot anul 2023, am primit 360k rapoarte.”

Ca răspuns, BlueSky a recunoscut că eforturile sale agresive de moderare ar fi putut conduce la cazuri de "supra-aplicare", rezultând în suspendarea greșită a conturilor.

Unele conturi au fost restabilite, în timp ce altele rămân sub revizuire pentru apeluri potențiale.

Compania a exprimat:

„Ne extindem echipa de moderare pe măsură ce creștem pentru a îmbunătăți atât promptitudinea, cât și acuratețea acțiunilor noastre de moderare.”

4/ Ne extindem echipa de moderare pe măsură ce creștem pentru a îmbunătăți atât promptitudinea, cât și acuratețea acțiunilor noastre de moderare. Vă mulțumim pentru înțelegere și feedback-ul dumneavoastră.

— Bluesky Safety (@safety.bsky.app) 26 noiembrie 2024, la 8:08 AM

Pentru a aborda aceste provocări, BlueSky a colaborat cu Thorn, o organizație nonprofit cu sediul în Los Angeles, în ianuarie pentru a combate deepfake-urile generate de AI și alte conținuturi dăunătoare.

Tehnologia Safer condusă de AI a Thorn, care ajută la detectarea materialelor de abuz sexual asupra copiilor (CSAM) pe platforme, a fost integrată în sistemul de moderare al BlueSky.

Această tehnologie poate identifica nu doar conținutul explicit, ci și materialele bazate pe text care pot indica amenințări potențiale pentru copii. X, care permite conținut pentru adulți, a adoptat de asemenea tehnologia Thorn în încercarea de a reduce CSAM pe platforma sa.

Rebecca Portnoff, VP de știință a datelor de la Thorn, a spus:

„Am învățat multe din testarea noastră beta. Deși știam de la început că abuzul sexual asupra copiilor se manifestă în toate tipurile de conținut, inclusiv text, am văzut concret în această testare beta cum învățarea automată/AI pentru text poate avea un impact real la scară.”

Comisia Europeană Vizează BlueSky pentru Încălcarea Reglementărilor UE

BlueSky, platforma de socializare în rapidă expansiune care a câștigat popularitate după o migrație masivă de la X-ul lui Elon Musk, se confruntă acum cu o examinare din partea Comisiei Europene pentru nedezvăluirea detaliilor operaționale esențiale.

ȘOC: UE vizează BlueSky pentru trafic de conținut care constituie exploatarea sexuală a copiilor. BlueSky a devenit cel mai bun loc pentru a împărtăși conținut exploatator legat de copii. https://t.co/RWtPHvHTTl

— @amuse (@amuse) 25 noiembrie 2024

Purătorul de cuvânt al Comisiei, Thomas Regnier, a explicat:

„Toate platformele din UE . . . trebuie să aibă o pagină dedicată pe site-ul lor unde să spună câți utilizatori au în UE și unde sunt legal înființate. Acest lucru nu este valabil pentru BlueSky în prezent. Acest lucru nu este respectat.”

Această încălcare a reglementărilor UE vine în contextul în care mii, inclusiv președintele Comisiei Ursula von der Leyen, s-au alăturat recent platformei.

Ascensiunea BlueSky a fost alimentată parțial de susținerea lui Musk pentru președintele ales al SUA, Donald Trump, și de decizia sa de a relaxa politicile de moderare a conținutului - măsuri care par să fi atras un număr semnificativ de academicieni, jurnaliști și politicieni de stânga pe platformă.

Comisia Europeană a scris statelor membre ale UE pentru a investiga prezența platformei în regiune, inclusiv eforturile de a determina dacă există un birou bazat în UE.

Cu toate acestea, nu a contactat încă direct BlueSky.

Această intervenție face parte dintr-o tendință mai largă, pe măsură ce reglementatorii își intensifică atenția asupra posibilelor încălcări ale Legii Serviciilor Digitale a UE, în special cu X-ul lui Musk fiind investigat pentru neconformitate în privința răspândirii de conținut ilegal și dezinformare.

Deși BlueSky în prezent nu îndeplinește pragul de 45 de milioane de utilizatori lunar necesar pentru a fi clasificat ca o "platformă online foarte mare" conform regulilor UE, Comisia a declarat că dacă se identifică un birou reprezentativ, va lua măsuri suplimentare.