バイデン政権下の商務省は、オープンソースまたはクローズドソースの人工知能モデルの輸出をさらに制限するための新たなコンプライアンスイニシアチブを目指している。このイニシアチブは、米国の利益とAI技術をロシアと中国から守るための取り組みであり、過去2年間に中国による最新の高度なコンピューターチップへのアクセスを阻止するために講じられた措置を補完するものである。

ロイター通信は、事情に詳しい3人の情報筋の話として、米国の取り組みは、ChatGPTのようなアプリを動かす大規模言語モデルのコアソフトウェアに、より厳格な保護壁を設けることだと報じた。同通信は、民間部門と政府の研究者らが、米国の敵対国がこの技術を攻撃的なサイバー攻撃や生物兵器開発に利用する可能性があると懸念していると主張しているが、中国大使館はこの動きに反対し、一方的な脅迫と経済的強制だと述べた。

ディープフェイクは致命的な偽情報兵器である

米国が恐れる脅威は数多くあり、国家に支援された非国家主体によって利用される可能性がある。ディープフェイクは、AIツールによって作成されたリアルだが偽の動画であるため、プロパガンダの効果的な武器として使用される可能性がある。

こうしたタイプの動画は、すでにソーシャルメディアで登場しています。こうしたメディアコンテンツは、アニメーションやレンダリングソフトウェアで開発され、ここ数年存在していましたが、生成AIツールによって誰でも簡単に作成できるようになり、特に選挙運動中に、悪意のある人物がこれまで以上に簡単にそれらを利用して、デリケートな問題に関する世論を操作することができます。

YouTube、Facebook、Twitterなどのソーシャルメディアプラットフォームはすでにディープフェイクを抑制する措置を講じていますが、ディープフェイクを開発して公開する戦術もテクノロジーの発展とともに変化しています。現時点では、MicrosoftやOpenAIなどの企業のツールが、偽情報を拡散するためのコンテンツの作成に使用されている可能性があります。

ランド研究所とグリフォン・サイエンティフィックの研究者らによると、さらに大きな懸念は、AIモデルが生物兵器開発のための情報を漏らす可能性があることであり、米国の諜報機関、学術専門家、シンクタンクはAIが悪意ある勢力の手に渡る可能性を懸念している。

グリフォンの研究では、法学修士課程が、パンデミックを引き起こす能力を持つウイルスの開発に役立つ専門知識や博士レベルの知識をいかにして生み出すことができるかが明らかにされ、これは非国家主体によって生物兵器として使用される可能性がある。

AIモデルによるサイバー攻撃の増幅

国土安全保障省も、より大規模で複雑なサイバー攻撃をより迅速に実行できる新たなツールを開発することで、鉄道やパイプラインなどの重要なインフラに対するサイバー攻撃がAIによって実行される可能性があると懸念を表明している。

同庁はまた、中国はマルウェア攻撃に使用できる人工知能ソフトウェアを開発しており、国のサイバー防衛を妨害する可能性のあるAI技術にも取り組んでいると述べた。

中国共産党のエコシステムを形成する機能と主体。出典: Microsoft。

マイクロソフトは2月に、ハッキング活動に関与するサイバーグループがLLMを利用してハッキングキャンペーンを完璧に行っており、ロシア、北朝鮮、中国政府、イラン革命防衛隊の軍事情報機関と提携していることを特定したという報告書を発表した。

同社は、自社のAI製品やサービスを利用している国家資金によるサイバー集団を禁止すると発表した。水曜日、政治家グループは、バイデン政権がAIモデルの輸出を規制し、潜在的な敵対勢力にAIモデルがさらされるのを防ぐのに役立つ法案を提案した。

専門家らは、米国はAIに伴うリスクに対する解決策とともにイノベーションを促進しようとしているため、イノベーションを阻害する可能性のある過度な規制を避けようとしていると指摘する。また、AIの発展を厳しく規制することで厳格な規制を施行すれば、海外の競争相手に空白が生じ、インフラ、国家安全保障、新薬発見などの分野に悪影響を与えると指摘した。