先月、テクノロジー大手のアップル社は大胆な行動に出て、App Storeから3つのアプリを削除した。これらのアプリは、AIで利用可能な機械学習ツールを悪用し、人の同意なしに非同意画像を作成しようとしていた。この決定は、アプリがInstagramやポルノサイトなどの場所で虚偽の広告を使用しているという懸念を受けて行われた。

広告における誤解を招く事例

この広告をクリックすると、Apple App Storeに送られる。同じアプリは「アートジェネレーター」と説明されているが、ヌードを生成できるという事実には一切触れられていない。これは、2022年に初めて特定された、モバイルアプリストアの長年の抜け穴である。

この行為を行ったとされるアプリは、AIベースのアルゴリズムを通じて、写真に写っている人物の服を脱がせると主張し、被写体の許可や知識がないにもかかわらず、裸であると誤って推定させている。このような行為はプライバシーを侵害するだけでなく、搾取、嫌がらせ、恐喝の潜在的な原因にもなり得る。

4月10日から4月20日まで、Facebook、Instagram、Facebook Messenger、Metaのアプリ内広告ネットワークで、AIで生成されたさまざまな女性を起用したこの広告の類似バージョンが多数表示されていた。

こうした詐欺アプリについて密告を受けた後、実際に最初に App Store から削除したのは Apple でした。彼らは無実を主張していましたが、アプリによって真の動機が明らかになり、Apple はアプリを削除してコミュニティ スタンダードに従うことを余儀なくされました。これは、すべての人にとって安全で性別に中立なデジタル空間を創造するという Apple の揺るぎない献身をはっきりと示しています。

継続的な課題と説明責任

Apple が講じた対策は尊重に値するが、今回の事件は結局のところ、アプリの審査と広告手法の監視に疑問を投げかけるものとなった。これらのアプリが長い間 App Store で注目されなかったという事実は、不正アプリを検出して排除するためのより慎重な対策と積極的な対策の必要性を強調するだけだ。

さらに、開発者はアダルトサイトで違法な機能を宣伝するための巧妙な方法を使用し、Apple や Google に検出されないよう徹底していました。これらのケースは、テクノロジー企業がプラットフォームを監視し、コミュニティ ガイドラインを施行する際に直面する問題を浮き彫りにしています。

Appleは2023年のワールドワイド開発者会議（WWDC）でAI関連のプロジェクトをいくつか公開する予定であり、これらのアプリに関して同社がどのような動きを見せるのか、非常に興味深い。Appleの責任ある技術実装の重要な部分は、倫理的な行動と健全な技術ガバナンスに対する良いイメージを維持することであり、これはAppleが自社製品でAIの使用を増やしていることを考えると極めて重要である。

これらのアプリを削除することは、AI の開発と使用に関する倫理的問題の一例です。AI 機能の開発に関連する 2 番目の懸念は、ユーザーのプライバシーです。さらに、ユーザーに許可を求め、安全性を保証する必要があります。Apple は、このようなアプリケーションをブロックすることで、コミュニティ内での倫理的な行動を強調しています。

出典: 404