ある擁護団体は、画像ジェネレーターがブラジルの子供たちの画像を何十億枚も本人の同意なしにAIモデルのトレーニングに使用していたことを明らかにした。ヒューマン・ライツ・ウォッチ（HRW）が実施した調査によると、Stable Diffusionなどの人気の画像ジェネレーターは、子供たちの「幼少期全体にわたる」画像を使用してモデルをトレーニングしていたことがわかった。
関連記事：テクノロジー企業、AI生成の児童性的虐待コンテンツの急増に対抗するよう要請
HRWの調査によると、これらの画像はブラジルの約10州で撮影されたものであることが明らかになった。また、この法律により、子どもの肖像が無断で撮影される画像も増えるため、これらの写真は「子どものプライバシーを著しく侵害する」と報告されている。
AIモデルの訓練にブラジルの子供たちの画像が数十億枚も使用
HRWの研究員、ヘ・ジョン・ハン氏は、公開ウェブのCommon Crawlスナップショットから構築されたデータセットであるLAION-5Bの一部（0.0001%未満）を分析し、この問題を明らかにした。同氏は、データセットには実際の写真は含まれておらず、2008年以降に投稿された約60億枚の写真とキャプションから抽出された「画像テキストペア」が含まれていることを明らかにした。
ブラジルの10州から子供の写真が発見されたが、そのほとんどは子育てブログや個人のブログにアップされた家族写真だった。報告書によると、これらはインターネットユーザーが簡単には見つけられない写真だという。
関連記事：英国、性的に露骨なディープフェイクの作成を犯罪行為と宣言
HRWは、データセットを作成したドイツの非営利団体LAIONと協力し、画像へのリンクを削除した。リンクを削除するだけでは問題が完全に解決しないため、データセットが世界中の子供たちの画像を参照している可能性があるという懸念は依然として残っている。
「これはより大きく、非常に憂慮すべき問題であり、ボランティア団体として私たちは支援に努めます」とLAIONの広報担当者ネイト・タイラー氏はArsに語った。
子どもの身元は簡単に追跡できる
HRWの報告書はさらに、データセットを構成するキャプションにブラジルの子供たちの名前と所在地が使われていたため、多くのブラジルの子供たちの身元が追跡可能であることを明らかにした。また、子供たちの画像が露骨な内容に使われる可能性があると、いじめっ子の標的になる危険があるかもしれないという懸念も提起した。
「検査された写真は幼少期全体にわたる」と報告書の一部には書かれている。
「赤ちゃんが手袋をした医師の手に生まれてくる瞬間、誕生日ケーキのろうそくを吹き消す幼い子ども、自宅で下着姿で踊る子どもなど、親密な瞬間を捉えています…」
人権侵害。
しかしハン氏は、「LAION-5Bの公開されているバージョンはすべて削除された」と明かし、そのためブラジルの子供たちの写真が使用されるリスクは減ったという。
HRWによると、LAIONがフラグの付いたコンテンツがすべて削除されたことを確認するまで、データセットは再び利用できなくなるという。この決定は、スタンフォード大学の報告書でも「データセット内に、公開ウェブ上の違法コンテンツへのリンクが見つかった」ことを受けて下された。その中には、児童性的虐待の疑いのあるコンテンツが3,000件以上含まれていた。
ブラジルでは少なくとも85人の女子生徒が、クラスメートがAIを使って「彼女たちのソーシャルメディアのコンテンツから撮影した写真に基づいて」性的に露骨なディープフェイクコンテンツを生成し、嫌がらせをしていると報告している。
子どものプライバシーの保護
Arsによると、LAION-5Bは2022年に導入され、OpenAIのデータセットを複製すると伝えられており、最大の「無料で利用できる画像テキストデータセット」として宣伝された。
HRWが画像についてLAIONに問い合わせたところ、同組織は、プライバシーとセキュリティ上のリスクを認めながらも、LAION-5Bで訓練されたAIモデルは「子供のデータをそのまま生成することはできない」と回答した。
その後、同団体はいくつかの画像の削除を開始したが、インターネットから子供の個人的な写真を削除する責任は親や保護者にあるとの意見も示した。ハン氏は彼らの主張に反対し、次のように述べた。
「根本的に防御不可能なテクノロジーから子供たちを守る責任を、子供たちとその親に負わせるべきではない。彼らのせいではない。」
彼。
HRWは、新興技術から子どもの権利を守るために、ブラジルの議員に緊急介入を求めた。HRWの勧告に従い、子どものデータをAIモデルに廃棄することを禁止する新しい法律を制定する必要がある。
Enacy MapakameによるCryptopolitanレポート