YouTubeは、ユーザーの同意なく動画内でユーザーの声や容姿をAIで生成したものが使用されていることを検出するツールを開発している。本日の発表で、Google傘下のYouTubeは、これらのツールが同プラットフォーム上のクリエイターを保護すると述べた。
この発表は、ディープフェイクの蔓延に伴う大きな懸念に対処するツールとして歓迎すべき進展であり、時には金銭的損失や評判の損失につながることもある。ディープフェイクの特定と報告のプロセスがよりシームレスになることを多くの人が期待している。
ミュージシャンと公人を保護することに焦点を当てた2つのツール
同社は、2つのツールに取り組んでいると説明した。1つ目は、YouTubeコンテンツIDシステムの一部となる歌声識別ツールだ。この機能は、プラットフォーム上で他の人の歌声を模倣したAI生成コンテンツを自動的に検出し、自動的に削除する。
2つ目のツールとして、YouTubeはクリエイター、アスリート、ミュージシャン、アーティストなどの人気者がプラットフォーム上で自分の顔のディープフェイクを検出し、削除できるようにする技術を開発している。同社は、これらのツールとプライバシーアップデートおよび利用規約があれば、クリエイターを保護するのに十分だと指摘した。
しかし、YouTube の目標は、プラットフォーム上での AI の使用を阻止することではなく、AI の責任ある使用を確保し、クリエイターが自分の肖像の使用を制御できるようにすることだけを目指しています。
それはこう言った。
「私たちは、AI は人間の創造性を置き換えるものではなく、強化するものだと考えます。私たちはパートナーと協力して、将来の進歩が彼らの声を増幅させることを確実にし、懸念に対処して共通の目標を達成するためのガードレールを開発し続けることに尽力します。」
一方、YouTubeはこれらの機能がいつユーザーに提供されるかについてはタイムラインを明らかにしておらず、歌声検出ツールにはまだ微調整が必要だとだけ述べ、2025年初頭までにパイロットプログラムが実施される予定だ。
YouTube、AIによるデータスクレイピングを防ぐ技術を予告
YouTubeはまた、AI企業が所有者の許可なくプラットフォーム上のコンテンツを使用してモデルをトレーニングするのを防ぐツールの開発に取り組んでいることを示唆した。同プラットフォームはこれを大きな問題と捉え、第三者がプラットフォームからデータをスクレイピングし、利用規約に違反するのを検出してブロックするシステムに投資していると述べた。
しかし、YouTubeはクリエイターがAI企業と協力したいと考えている可能性も認めており、YouTubeクリエイターがプラットフォーム上で第三者がコンテンツをどのように使用するかを制御できるようにする方法を検討している。
YouTubeは、AI企業がモデルを訓練するためにコンテンツをスクレイピングすることに対して厳しい姿勢を示しているが、同プラットフォームとその親会社であるGoogleは、利用規約を遵守しながら、同じ目的でこのコンテンツを使用している。同社は、責任を持ってAIツールを開発するために、今後もこのコンテンツを使い続ける予定だ。