BlueSky、新規ユーザーと有害コンテンツの増加を認識
急成長中のソーシャルメディアプラットフォーム「BlueSky」は、新規ユーザーの流入とともに有害コンテンツの大幅な増加を報告した。
ブルースカイは現在、利益を優先して子供の安全を守ることが優先されず、軽視されたときに何が起こるかを示す完璧な例です。
小児性愛者/MAP アカウントが溢れています🤮 そこにベッドを作ることを選ぶなら、その人たちとベッドを共有することになります。
私はXを使い続けます。pic.twitter.com/mb7ijyJdgS
— ピアジェを読んでみてください！ (@prof_curiosity1) 2024年11月22日
これに応じて、プラットフォームはネットワークから不適切な画像を削除することを目的とした広範なモデレーション活動を発表しました。
BlueSkyの安全アカウントが投稿しました:
「私たちは、多くのユーザーの急増を経験しており、それに伴ってネットワークに投稿される有害なコンテンツが予測可能に増加しています。その結果、子供の安全などの非常に高い重大度のポリシー領域のために、最近、精度よりもリコールを優先する短期的なモデレーションの選択をしました。」
1/ 私たちは多くのユーザーの急増を経験しており、それに伴ってネットワークに投稿される有害なコンテンツが予測可能に増加しています。その結果、非常に高い重大度のポリシー領域、特に子供の安全に関して、最近、精度よりもリコールを優先する短期的なモデレーションの選択を行いました。
— BlueSkyの安全 (@safety.bsky.app) 2024年11月26日午前8:08
ユーザーはXを捨ててBlueSkyに移行しました
大統領選出のドナルド・トランプの最近の勝利を受けて、数百万のユーザーがX（以前のTwitter）を放棄し、代替プラットフォームを求めました。
この移行は競合他社に大きな成長をもたらし、MetaのThreadsは3500万人の新しいユーザーを獲得し、元Twitter CEOのジャック・ドーシーによって設立された分散型プラットフォームBlueSkyは、わずか3週間で2000万人を惹きつけました。
この急増は、ブラジルの裁判所が9月にXを禁止した後、すでに100万人以上のブラジル人がBlueSkyに参加したことに追加されました。
BlueSkyは、Xの所有者エロン・マスクがツイートをGrok AIのトレーニングに使用できると発表した後、10月にさらに急増を見ました。これはユーザーをプラットフォームにさらに引き寄せました。
もしサービス利用規約の更新に関する通知を見た場合、これは変更された主な条項です。
これは明示的にTwitterがあなたの投稿と添付メディア（画像、動画、音声を含む）をGrokのようなAIモデルのトレーニングに使用できることを許可します。
これは11月15日から有効になります。 pic.twitter.com/tuQsmclv3a
— ryan fae (@RhinozzCode) 2024年10月16日
有害なコンテンツの報告の中でBlueSkyがモデレーション努力を試みる
急成長の中、BlueSkyはスパム、詐欺、トローリングを含む有害なコンテンツの急増に直面しており、児童性的虐待資料の驚くべき増加もあります。
テックサイトPlatformerによると、プラットフォームは2023年に子供向けの性的コンテンツの2件の事例を確認しましたが、12月初旬にはこの数が8件に増加しました。
BlueSkyは確認しました:
「過去24時間で、42,000件以上の報告を受け取りました（1日の過去最高）。私たちは約3,000件の報告を毎時受けています。これを文脈に置くと、2023年中に受け取った報告は36万件です。」
これに応じて、BlueSkyはその積極的なモデレーション努力が「過剰執行」の事例を引き起こした可能性があることを認めました。
一部のアカウントは復活しましたが、他のアカウントは潜在的な異議申し立てのためにレビュー中のままです。
会社は次のように述べました:
「私たちは成長に伴い、モデレーションチームを拡大しています。これにより、モデレーション行動の迅速性と正確性を向上させます。」
4/ 私たちは成長に伴い、モデレーションチームを拡大しています。これにより、モデレーション行動の迅速性と正確性を向上させます。ご理解とご意見をありがとうございます。
— BlueSkyの安全 (@safety.bsky.app) 2024年11月26日午前8:08
これらの課題に対処するために、BlueSkyはロサンゼルスに拠点を置く非営利団体Thornと1月に提携し、AI生成のディープフェイクやその他の有害なコンテンツに立ち向かっています。
ThornのAI駆動型Safer技術は、プラットフォーム全体で児童性的虐待資料（CSAM）を検出するのに役立ち、BlueSkyのモデレーションシステムに統合されました。
この技術は、明示的なコンテンツだけでなく、子供への潜在的な脅威を示す可能性のあるテキストベースの資料も特定できます。成人向けコンテンツを許可するXは、プラットフォーム上のCSAMを減少させるためにThornの技術も採用しています。
Thornのデータサイエンス副社長レベッカ・ポートノフは言いました:
「私たちはベータテストから多くのことを学びました。児童性的虐待がすべてのタイプのコンテンツ、特にテキストで現れることを知っていましたが、このベータテストで機械学習/AIがテキストに対して大規模に実際の影響を持つことがあることを具体的に見ることができました。」
欧州委員会がEU規則違反のためBlueSkyを標的に
エロン・マスクのXからの大量の移行後に勢いを増した急成長中のソーシャルメディアプラットフォームBlueSkyは、重要な運営詳細を開示していないことで欧州委員会から厳しい視線を浴びています。
衝撃: EUは、児童性的搾取に該当するコンテンツの取引に関してBlueSkyを標的にしています。BlueSkyは、子供に関連する搾取的なコンテンツを共有するための最良の場所となっています。 https://t.co/RWtPHvHTTl
— @amuse (@amuse) 2024年11月25日
委員会の報道官トーマス・レニエは説明しました:
「EUのすべてのプラットフォームは、EU内のユーザー数と法的に設立されている場所を示す専用のページをウェブサイトに持たなければなりません。これは今日の時点でBlueSkyには当てはまりません。これは守られていません。」
このEU規則の違反は、最近、委員会の委員長ウルズラ・フォン・デア・ライエンを含む何千人もの人々がこのプラットフォームに参加したことと同時に起こっています。
BlueSkyの台頭は、マスクが米国大統領選出のドナルド・トランプを支持し、コンテンツモデレーションポリシーを緩和する決定を下したことに部分的に起因しています—これらの動きは、プラットフォームに多くの学者、ジャーナリスト、左派の政治家を引き寄せたようです。
欧州委員会は、EU加盟国に対して、地域におけるプラットフォームの存在を調査し、EUに拠点を置くオフィスがあるかどうかを確認する努力を促す文書を送付しました。
しかし、BlueSkyに直接連絡を取ることはまだありません。
この介入は、規制当局がEUのデジタルサービス法の潜在的な違反に集中する中での広範な傾向の一部であり、特にマスクのXが違法コンテンツや誤情報の拡散に関する非準拠について調査されていることが含まれます。
現在、BlueSkyはEUの規則に従って「非常に大規模なオンラインプラットフォーム」として分類されるために必要な4500万の月間ユーザーの閾値を満たしていませんが、委員会は代表事務所が特定されれば、さらなる措置を講じると述べています。