世界中でディープフェイクが大きな注目を集めています。AI で生成されたディープフェイクを使用する国際企業が数多く登場しているため、この問題に対する一般的なアプローチについては一般的な合意があります。今年初め、Google は C2PA で、OpenAI、Adobe、Microsoft、AWS、RIAA メンバーなどの他の組織とともに運営委員会に参加しました。ディープフェイクと主流の AI 誤報に対する懸念から、IT 担当者は、コンテンツの資格情報を具体的に参照しながら、この機関の取り組みを受け入れたいと思うでしょう。

コンテンツ認証: 新しい標準

業界は、特定のビジュアルおよびビデオ データ管理領域を全面的に規制しようとしているため、IT チームはこれに細心の注意を払うことになります。コンテンツ クレデンシャルは、クリエイターやコンテンツ ホルダーが適切なクレジットを取得し、エコシステムに誠実さをもたらすために使用できるデジタル メタデータの方法です。この回復不可能なメタデータは、アーティストの名前と詳細で構成され、エクスポートまたはダウンロード時にコンテンツに直接刻み込まれます。

同じルールと許可の下で作成されたコンテンツ ラベルは、アイデアの背後にある企業の力により、完全で受け入れやすい世界で標準化されたラベルを実装する大きなチャンスがあります。コンテンツ クレデンシャルは、さまざまな理由からユニークな機会となります。著者や創作プロセスに関する非常に必要な情報を提供するため、視聴者の間で信頼性と信頼性を高めるのに役立ちます。これにより、誤報や偽情報と戦うのに役立つ部屋の雰囲気が生まれます。

作品に連絡先を添付してアーティストのアイデンティティを強化し、ユーザーが追跡して接続できるようにすることで、認識と可視性を高めます。さらに、偽物で人々を騙すために作られたコンテンツなど、本物ではないインターネットコンテンツを対象としたいくつかの対策があります。オーストラリアの歴史は、他の世界と同様に、ディープフェイク詐欺の最大の急増を反映しています。Sumsubは、3回目のアイデンティティ詐欺レポートで、オーストラリアのディープフェイクの数は前年と比較して15倍に増加し、偽造メディアの精巧さが現実の形に向かってさらに進んでいると述べました。

人間の目はほぼ瞬時に警戒を解くため、ディープフェイクは極めて説得力を持つ。研究によると、画像を分類するのにかかる時間はわずか 13 ミリ秒で、人間が情報を処理して認証または拒否するのにかかる時間よりはるかに短い。オーストラリアの eSafety コミッショナーは、「ディープフェイクを識別するためのイノベーションの開発が、まだテクノロジーの進歩に追いついていない」と指摘している。オーストラリア政府は、ディープフェイク対策に取り組んでいる。

オーストラリアでのディープフェイクとの戦い

ディープフェイクは、オーストラリア国民全体の安定と安全にとって非常に現実的な脅威です。長期的なディープフェイク防止キャンペーンは、ディープフェイクの仕組みと、こうしたトリックの餌食にならないための選択肢を人々に理解してもらうための啓発キャンペーンに重点を置く必要があります。

このビジョンを実現するには、業界全体の合意が必要であり、主要なサプライサイドの利害関係者がテクノロジーを提供し、AI に最も大きな影響を与える必要があります。しかし、ここでコンテンツ クレデンシャルが重要になります。コンテンツ クレデンシャルは、ディープフェイクの問題を解消する標準を作成するための最良の方法ですが、悪用を検出、規制、処罰するという問題は残ります。つまり、予防策は業界に依存せず、メディア業界の多くの現場リーダーによってサポートされるものではありません。このような実装はインターネットの大きな部分にまで及ぶ可能性があり、そのような時代では、ほとんどの Web サイトは検索エンジンのバイラル サイトと同じくらい即座に知識が豊富です。

コンテンツ作成のための IT および AI 運用に携わる人々は、コンテンツ認証情報を理解しなければなりません。Web 開発者がセキュリティ、SEO、およびコンテンツが禁止されるのを防ぐためのあらゆる標準に深く関わっているのと同じように、彼らはコンテンツ認証情報を理解する必要があります。彼らが取るべき手順は次のとおりです。

コンテンツ認証情報の実装: まず、IT 専門家は、コンテンツの信頼性と追跡可能性を維持するために、コンテンツ認証情報を自社で完全に実装し、ワークフローに統合していることを確認する必要があります。

透明性の推進: 社内外のパートナーや顧客への提案により、組織が AI の使用について透明性を保ち、コンテンツの作成と配信において倫理的な慣行を受け入れるよう組織的に推進することになります。

規制の支援: ディープフェイクによって引き起こされる課題に対抗するための政策と規制の策定を業界団体と政府が主導することを検討します。これは、政府が AI に関して実施する多くの公聴会に参加するだけでなく、政策策定にも役立ちます。

コラボレーション: ディープフェイクのリスクを正確に特定するための、共有された一貫したアプローチとツールを作成することで、他の専門家や組織との専門知識を強化します。

対応戦略の準備: ディープフェイクがもたらす課題に対応し、被害や通信の処理など、このテクノロジーが検出された場合に備えた計画を準備します。

コミュニティ リソースの活用: プラットフォームでは、最新の開発情報をタイムリーに把握するために、eSafety コミッショナーなどのサイバーセキュリティ コミュニティのリソースも活用する必要があります。

ディープフェイクの作成は、適切なソリューションを見つけなければならない情報技術の専門家にとって最も困難な作業です。コンテンツ クレデンシャルは、業界全体を構築するための素晴らしい出発点を提供します。