X、テスラ、xAI、その他数々の革新的な企業を経営する連続技術起業家イーロン・マスク氏は、自身のソーシャルメディアプラットフォームX（以前はTwitterとして有名だった）で、テレビシリーズ「ブラック・ミラー」が近いうちに現実になる可能性が高いと世界コミュニティに警告した。
マスク氏の警告は、今年初めにマスク氏が訴訟を起こしたOpenAIのパトロンであるマイクロソフトが発表した新しいAI製品に関するものだった。
カード
イーロン・マスクの「ブラックミラー」警告
イーロン・マスク氏は、マイクロソフトが発表した新しい AI 機能についてコメントしました。これは「リコール」と呼ばれています。Windows オペレーティング システムへのこの機能追加により、ユーザーのコンピューターのスクリーンショットが継続的に撮影され、アーカイブのように、コンピューターに保存されていたすべてのものを後で思い出してすぐにアクセスできるようになります。
マスク氏は、これはテレビシリーズ「ブラック・ミラー」のエピソードに似ていると指摘した。同シリーズは、将来、テクノロジーが世界人口を制御・支配するためにどのように利用される可能性があるかというディストピアのシナリオを幅広いテレビ視聴者に示すために制作された。
マスク氏は、このマイクロソフトの機能を必ずオフにするとツイートした。
これはブラックミラーのエピソードです。この「機能」は絶対にオフにします。https://t.co/bx1KLqLf67
— イーロン・マスク（@elonmusk）2024年5月20日
マイクロソフトの CEO ナデラ氏が説明する新しい「リコール」機能
マイクロソフトの CEO サティア・ナデラ氏は、Recall はユーザーの履歴に写真のような記憶を導入する方法であると述べました。ユーザーは、過去の特定の時点、特定の日、特定の月、特定の年などに PC で何をしたかを思い出して「過去の瞬間を再現」したい場合、Recall でセマンティック検索を行うことができます。その後、このすべてのデータは AI によって処理され、検索可能になります。
Copilot Plus PC で導入された最大の AI 機能の 1 つは、「Recall」です。これにより、ユーザーはコンピューター画面で見たものや操作したものを自然言語で検索して思い出すことができます。pic.twitter.com/Ls66btuAvr
— ローワン・チャン (@rowancheung) 2024年5月21日
しかし、マスク氏はここで別の点に気付いていた。おそらく、この技術界の大物は、スクリーンショット付きのデータに簡単にアクセスして、ユーザーの行動を制御し、ユーザーが訪問したウェブページを正確に確認し、個人のファイル、写真、通信文などすべてを覗き見るために使用できることを示唆したのだろう。世界中で権威主義体制が強化されている状況では、これは人々の PC を常に監視することで国民を制御するための完璧なツールになる可能性がある。
サティア・ナデラ氏は、これはユーザーの PC 上でローカルにのみ実行されるものであり、この機能が危険でプライバシーを侵害する可能性があると考える人は何も心配する必要はないと保証しています。