O creștere a noilor utilizatori pe platforma de socializare BlueSky a adus, de asemenea, o creștere a „conținutului dăunător,” ducând la o campanie de moderare de masă pentru a elimina imagini de pe rețea, a spus platforma luni.


„Experimentăm un aflux uriaș de utilizatori și, odată cu asta, o creștere previzibilă a conținutului dăunător postat pe rețea,” a spus contul de Siguranță al BlueSky. „Ca rezultat, pentru unele domenii de politică cu severitate foarte mare, cum ar fi siguranța copiilor, am făcut recent câteva alegeri de moderare pe termen scurt pentru a prioritiza recuperarea în detrimentul preciziei.”


După victoria președintelui ales Donald Trump la începutul acestei luni, milioane de utilizatori au abandonat X, platforma cunoscută anterior sub numele de Twitter, în căutarea alternativelor.


Mulți au migrat către platforme alternative de socializare, cu 35 de milioane alăturându-se Threads de la Meta și 20 de milioane îndreptându-se către BlueSky—platforma de socializare descentralizată lansată de fostul CEO Twitter Jack Dorsey—în ultimele trei săptămâni doar.


Inundația de noi utilizatori s-a adăugat celor mai mult de un milion de braziliaini care s-au îndreptat către BlueSky după ce un judecător din națiunea sud-americană a interzis X în septembrie.


BlueSky a văzut o altă creștere în octombrie, după ce proprietarul X, Elon Musk, a spus că tweet-urile ar putea fi folosite pentru a antrena AI-ul Grok.


Cu toate acestea, împreună cu noii săi utilizatori, la începutul acestei luni, BlueSky a raportat o creștere a spam-ului, escrocheriilor și activităților de trolling, alături de o creștere îngrijorătoare a materialelor de abuz sexual asupra copiilor.


Conform unui raport al site-ului de tehnologie Platformer, în 2023, BlueSky a avut două cazuri confirmate de conținut sexual orientat către copii postat pe rețea. Luni, au fost opt cazuri confirmate.


„În ultimele 24 de ore, am primit mai mult de 42.000 de rapoarte (un record pentru o singură zi). Primim aproximativ 3.000 de rapoarte/oră. Ca să punem asta în context, în tot anul 2023, am primit 360k de rapoarte,” a spus BlueSky.


BlueSky a spus că moderarea sa de masă ar fi putut duce la „supra-întărire” și suspendări de conturi. Unele dintre conturile suspendate greșit au fost restabilite, în timp ce altele ar putea depune încă apeluri.


„Ne extindem echipa de moderare pe măsură ce creștem pentru a îmbunătăți atât rapiditatea, cât și precizia acțiunilor noastre de moderare,” a spus compania.


Pentru a reduce deepfake-urile generate de AI pe platforma sa, BlueSky a colaborat cu grupul de monitorizare a internetului Thorn, cu sediul în Los Angeles, în ianuarie.


BlueSky a implementat tehnologia de moderare mai sigură, alimentată de AI, a lui Thorn, care detectează conținutul sexual orientat către copii și identifică conversațiile bazate pe text care sugerează exploatarea copiilor.


Deși X permite conținut pentru adulți, în mai, platforma de socializare a declarat că a implementat și tehnologia mai sigură a lui Thorn pentru a combate materialele de abuz sexual asupra copiilor de pe site.


„Am învățat multe din testarea noastră beta,” a spus Rebecca Portnoff, VP de știință a datelor la Thorn, pentru Decrypt la acea vreme.


„Deși știam că abuzul sexual asupra copiilor se manifestă în toate tipurile de conținut, inclusiv text, am văzut concret în acest test beta cum învățarea automată/AI pentru text poate avea un impact real la scară,” a spus ea.


Editat de Sebastian Sinclair și Josh Quittner