BlueSky chứng kiến sự gia tăng người dùng mới và nội dung có hại

BlueSky, nền tảng mạng xã hội phát triển nhanh chóng, đã báo cáo sự gia tăng đáng kể trong nội dung có hại cùng với sự gia tăng người dùng mới.

BlueSky hiện tại là ví dụ hoàn hảo về những gì xảy ra khi việc bảo vệ trẻ em không được ưu tiên và bị hạ thấp vì lợi nhuận.

Nó ngập tràn các tài khoản ấu dâm/MAP🤮 Nếu bạn chọn để ở đó, đó là những gì bạn chia sẻ.

Tôi vẫn sẽ chọn X. pic.twitter.com/mb7ijyJdgS

— Đọc một số tác phẩm của Piaget đi! (@prof_curiosity1) ngày 22 tháng 11 năm 2024

Đáp lại, nền tảng này đã công bố một nỗ lực kiểm duyệt rộng rãi nhằm loại bỏ các hình ảnh không phù hợp khỏi mạng lưới của mình.

Tài khoản An toàn của BlueSky đã đăng:

“Chúng tôi đang trải qua một sự gia tăng lớn về người dùng, và với điều đó, một sự gia tăng có thể dự đoán trong nội dung có hại được đăng tải lên mạng. Do đó, đối với một số lĩnh vực chính sách có độ nghiêm trọng cao như an toàn trẻ em, chúng tôi đã thực hiện một số lựa chọn kiểm duyệt ngắn hạn để ưu tiên việc thu hồi hơn là độ chính xác.”

1/ Chúng tôi đang trải qua một sự gia tăng lớn về người dùng, và với điều đó, một sự gia tăng có thể dự đoán trong nội dung có hại được đăng tải lên mạng. Do đó, đối với một số lĩnh vực chính sách có độ nghiêm trọng cao như an toàn trẻ em, chúng tôi đã thực hiện một số lựa chọn kiểm duyệt ngắn hạn để ưu tiên việc thu hồi hơn là độ chính xác.

— Bluesky Safety (@safety.bsky.app) ngày 26 tháng 11 năm 2024 lúc 8:08 AM

Người dùng đã bỏ X để chuyển sang BlueSky

Sau chiến thắng gần đây của Tổng thống đắc cử Donald Trump, hàng triệu người dùng đã bỏ X (trước đây được gọi là Twitter), tìm kiếm các nền tảng thay thế.

Cuộc di cư này đã dẫn đến sự tăng trưởng đáng kể cho các đối thủ, với Meta's Threads thu hút 35 triệu người dùng mới và BlueSky, nền tảng phi tập trung do cựu CEO Twitter Jack Dorsey sáng lập, thu hút 20 triệu người chỉ trong ba tuần.

Sự gia tăng này đã thêm vào hơn một triệu người Brazil đã gia nhập BlueSky sau khi một tòa án ở Brazil cấm X vào tháng 9.

BlueSky đã chứng kiến một đợt tăng trưởng khác vào tháng 10 sau khi chủ sở hữu X, Elon Musk, thông báo rằng các tweet có thể được sử dụng để đào tạo AI Grok, càng thúc đẩy người dùng đến nền tảng.

nếu bạn đã thấy thông báo về việc cập nhật Điều khoản Dịch vụ, đây là điều khoản chính mà nó đã thay đổi.

nó rõ ràng cho phép twitter sử dụng bài đăng của bạn và bất kỳ phương tiện nào đính kèm - bao gồm hình ảnh, video, và âm thanh của chúng - để đào tạo các mô hình AI như Grok.

nó sẽ có hiệu lực vào ngày 15 tháng 11. pic.twitter.com/tuQsmclv3a

— ryan fae (@RhinozzCode) ngày 16 tháng 10 năm 2024

BlueSky cố gắng thực hiện các nỗ lực kiểm duyệt giữa những báo cáo về nội dung có hại

Giữa sự phát triển nhanh chóng của mình, BlueSky đã đối mặt với sự gia tăng đáng lo ngại về nội dung có hại, bao gồm spam, lừa đảo và trolling, cùng với sự gia tăng đáng báo động về tài liệu lạm dụng tình dục trẻ em.

Theo trang công nghệ Platformer, nền tảng này đã xác nhận hai trường hợp nội dung tình dục liên quan đến trẻ em vào năm 2023, nhưng đến đầu tháng 12, con số này đã tăng lên tám.

BlueSky xác nhận:

“Trong 24 giờ qua, chúng tôi đã nhận được hơn 42,000 báo cáo (một kỷ lục mới trong một ngày). Chúng tôi đang nhận khoảng 3,000 báo cáo/giờ. Để đặt điều đó vào bối cảnh, trong toàn bộ năm 2023, chúng tôi đã nhận được 360k báo cáo.”

Đáp lại, BlueSky đã thừa nhận rằng những nỗ lực kiểm duyệt quyết liệt của mình có thể đã dẫn đến một số trường hợp "thực thi quá mức", dẫn đến việc đình chỉ tài khoản sai.

Một số tài khoản đã được khôi phục, trong khi những tài khoản khác vẫn đang được xem xét cho khả năng kháng cáo.

Công ty đã bày tỏ:

“Chúng tôi đang mở rộng đội ngũ kiểm duyệt của mình khi chúng tôi phát triển để cải thiện cả thời gian và độ chính xác của các hành động kiểm duyệt.”

4/ Chúng tôi đang mở rộng đội ngũ kiểm duyệt của mình khi chúng tôi phát triển để cải thiện cả thời gian và độ chính xác của các hành động kiểm duyệt. Cảm ơn bạn đã hiểu và phản hồi.

— Bluesky Safety (@safety.bsky.app) ngày 26 tháng 11 năm 2024 lúc 8:08 AM

Để giải quyết những thách thức này, BlueSky đã hợp tác với Thorn, một tổ chức phi lợi nhuận có trụ sở tại Los Angeles, vào tháng 1 để chống lại các video giả mạo được tạo ra bởi AI và các nội dung có hại khác.

Công nghệ Safer do AI của Thorn, giúp phát hiện tài liệu lạm dụng tình dục trẻ em (CSAM) trên các nền tảng, đã được tích hợp vào hệ thống kiểm duyệt của BlueSky.

Công nghệ này có thể xác định không chỉ nội dung rõ ràng mà còn cả tài liệu dựa trên văn bản có thể chỉ ra những mối đe dọa tiềm ẩn đối với trẻ em. X, cho phép nội dung người lớn, cũng đã áp dụng công nghệ của Thorn trong nỗ lực giảm thiểu CSAM trên nền tảng của mình.

Phó Chủ tịch khoa học dữ liệu của Thorn, Rebecca Portnoff cho biết:

“Chúng tôi đã học được rất nhiều từ thử nghiệm beta của mình. Mặc dù chúng tôi đã biết từ trước rằng lạm dụng tình dục trẻ em xuất hiện dưới mọi hình thức nội dung, bao gồm văn bản, nhưng chúng tôi đã thấy cụ thể trong thử nghiệm beta này rằng máy học/AI cho văn bản có thể có tác động thực tế ở quy mô lớn.”

Ủy ban Châu Âu nhắm vào BlueSky vì vi phạm quy định của EU

BlueSky, nền tảng mạng xã hội phát triển nhanh chóng đã thu hút được nhiều sự chú ý sau một cuộc di cư ồ ạt từ X của Elon Musk, hiện đang đối mặt với sự kiểm tra từ Ủy ban Châu Âu vì không tiết lộ những thông tin vận hành thiết yếu.

SHOCK: EU đang nhắm vào BlueSky vì buôn bán nội dung liên quan đến khai thác tình dục trẻ em. BlueSky đã trở thành nơi tốt nhất để chia sẻ nội dung khai thác liên quan đến trẻ em. https://t.co/RWtPHvHTTl

— @amuse (@amuse) ngày 25 tháng 11 năm 2024

Người phát ngôn Ủy ban Thomas Regnier giải thích:

“Tất cả các nền tảng trong EU . . . phải có một trang dành riêng trên trang web của họ nơi cho biết số lượng người dùng mà họ có ở EU và nơi họ được thành lập hợp pháp. Điều này không đúng với BlueSky tính đến hôm nay. Điều này không được tuân theo.”

Vi phạm quy định của EU này diễn ra khi hàng ngàn người, bao gồm cả Chủ tịch Ủy ban Ursula von der Leyen, gần đây đã tham gia nền tảng này.

Sự gia tăng của BlueSky một phần được thúc đẩy bởi sự ủng hộ của Musk đối với Tổng thống đắc cử Mỹ Donald Trump và quyết định của ông trong việc nới lỏng các chính sách kiểm duyệt nội dung - những động thái dường như đã thu hút một số lượng đáng kể học giả, nhà báo và các chính trị gia thiên tả đến nền tảng.

Ủy ban Châu Âu đã viết thư cho các quốc gia thành viên EU để điều tra sự hiện diện của nền tảng này trong khu vực, bao gồm cả nỗ lực xác định xem có văn phòng nào đặt tại EU hay không.

Tuy nhiên, họ vẫn chưa liên hệ trực tiếp với BlueSky.

Can thiệp này là một phần của xu hướng rộng hơn, khi các cơ quan quản lý tăng cường tập trung vào những vi phạm tiềm tàng của Đạo luật Dịch vụ Kỹ thuật số của EU, đặc biệt là với X của Musk đang bị điều tra về việc không tuân thủ liên quan đến việc lan truyền nội dung bất hợp pháp và thông tin sai lệch.

Mặc dù BlueSky hiện tại không đạt ngưỡng 45 triệu người dùng hàng tháng cần thiết để được phân loại là "nền tảng trực tuyến rất lớn" theo quy định của EU, Ủy ban đã tuyên bố rằng nếu một văn phòng đại diện được xác định, họ sẽ thực hiện các hành động tiếp theo.