超党派の上院議員グループが提出した新しい法案は、そのようなコンテンツに透かしを入れることを義務付けることで、人工知能(AI)ディープフェイクの悪用と戦うことを目指している。
マリア・キャントウェル上院議員(ワシントン州民主党)、マーシャ・ブラックバーン上院議員(テネシー州共和党)、マーティン・ハインリッヒ上院議員(ニューメキシコ州民主党)が提出したこの法案は、AIによって生成されたコンテンツに透かしを入れるための標準化された方法を提案している。
「編集およびディープフェイクメディアからのコンテンツ出所保護および完全性法(COPIED)」と呼ばれるこの法案は、クリエイターの保護を強化し、AIをトレーニングできるコンテンツの種類に対する管理を確立する。
キャントウェル氏によると、この法案はAIが生成したコンテンツに「切望されていた透明性」を提供すると同時に、「地元のジャーナリスト、アーティスト、ミュージシャンを含むクリエイターにコンテンツの管理権を取り戻す」ことになるという。
この法案が可決されれば、OpenAI などの AI サービス プロバイダーは、生成したコンテンツの出所に関する情報を埋め込むことをユーザーに義務付けることになります。さらに、これは「機械可読」な方法で実装する必要があり、AI ベースのツールで回避したり削除したりすることはできません。
連邦取引委員会 (FTC) は、COPIED 法の施行を監督します。規制当局は、FTC 法に基づくその他の違反と同様に、違反を不正行為または欺瞞行為として扱います。
AIの導入に伴い、Web全体から膨大な量のデータを収集できるこの技術の能力を考慮して、その倫理的影響について多くの議論が行われています。
こちらもおすすめ: エリプティック社、人工知能が暗号犯罪に新たな側面をもたらす可能性があると主張
こうした懸念は、テクノロジー大手のマイクロソフトがOpenAIの取締役就任を辞退したときに明らかになった。
「人工知能は、悪意のある人物に、クリエイティブコミュニティの人々を含むあらゆる個人のディープフェイクを作成し、本人の同意なしに肖像を模倣し、偽造コンテンツから利益を得る能力を与えている」とブラックバーン上院議員は述べた。
この法案が提案された時期は、ディープフェイクコンテンツを使った詐欺や詐欺行為が245%増加した時期と一致している。Bitgetのレポートでは、こうした詐欺による損失は2025年までに100億ドルに達すると推定されている。
暗号通貨業界では、詐欺師がAIを活用してイーロン・マスクやヴィタリック・ブテリンなどの著名人になりすまし、ユーザーを騙している。
2024年6月、暗号通貨取引所OKXの顧客は、攻撃者が被害者のディープフェイク動画を使用してプラットフォームのセキュリティを回避したため、200万ドル以上を失いました。その前月、香港当局は、イーロン・マスクの肖像を使用して投資家を欺く詐欺プラットフォームを取り締まりました。
一方、テクノロジー界の巨人グーグルは最近、仮想通貨を標的としたディープフェイクに対する予防措置が不十分であると、国立サイバーセキュリティセンター(NCC)の創設者マイケル・マルコット氏から批判された。
続きを読む: Binance が人工知能 (AI) を活用して Web3 教育を強化