AIによって生成された、2024年のメットガラでのケイティ・ペリーの写真がソーシャルメディアで話題になっているが、実際のポップスターであるケイティ・ペリーは今年、この一流イベントから遠ざかっている。

ケイティ・ペリーは、2024年のメットガラで「森をテーマにした」と表現される一連の凝ったドレスを着た自身の写真をインスタグラムで公開したが、彼女は実際にはこの注目度の高いファッションイベントには出席していなかった。この歌手は注目度の高いファッションイベントには出席していなかったが、AIが作成した写真がすべてのソーシャルメディアプラットフォームで広まるのにそれほど時間はかからなかった。

ペリーがシェアしたスクリーンショットでは、母親がリアルに見えるAIレンダリングに騙され、「なんてゴージャスなドレスなの、ローズパレードみたい。あなた自身がフロートなんだ」とテキストメッセージを送っていた。ペリーは生意気に「ママ、AIに騙されたのね。気をつけて！」と返信した。

ケイティ・ペリー。それだ#MetGalapic.twitter.com/OT51H6wJ9i

— javi (@jxries) 2024年5月6日

AI画像が現実を模倣

AIソフトウェアのスキルセットの向上により、人々は非常にリアルに見える高解像度の写真をシミュレートできるようになり、本物と人工物の境界が曖昧になっています。たとえば、このケースは、このテクノロジーが虚偽や紛らわしいメッセージの拡散を可能にする方法の完璧な例です。それとは別に、AI写真編集ツールも創造的な道を開くことができますが、許可がない、実際には起こらなかった出来事を捏造するなど、倫理的な問題を提起します。一部の視聴者には写真が本物に見えるため、AIシステムはデジタルリアリティがいかに巧みに捏造されるかを示すでしょう。

しかし、Xで700万回以上再生されたこの写真は、実際の場所から撮影されたものではなく、作られたものである。つまり、AI生成画像はまだメットガラのレッドカーペットで初公開されておらず、さらに画像の背景のカーペットは2018年にまで遡ることができる。

この投稿のコメント欄には、多くの人がアーティストの偽画像に騙されたと告白した。「最初はこのAI編集に騙されたわけじゃない」とある人が書いた一方、「いや、それは意味不明だ」と別の人が言った。

この AI のせいで夜が台無しになった https://t.co/ZBU0XcfFNF

— 𝐩𝐡𝐚𝐢𝐭𝐡 ♥︎ (@phaithmontoya) 2024年5月6日

奇妙なことに、この不履行者はAI画像騒動を利用して、来たるカムバック曲を批判した。彼女は、もうすぐリリースされるニューシングルはこれまでで「最大のシングル」だと述べているが、詳細はまだ明かされていない。この曲は、批評家からあまり好意的な評価を受けなかった2020年の以前のアルバム「Smile」に続く、この歌手にとって初のシングルとなる。この投稿のコメント欄には、このアーティストのフェイク画像に騙されたと告白する人が多数いた。

AI生成コンテンツのジレンマ

AI画像が偽物だと見分けるのはますます不可能になり、そうなると真偽の検証が大きな問題になる。ペリーのような有名人は、事前の同意なしに偽のシナリオに仮想的に配置されることから、ディープフェイクの餌食になることまで、さまざまな状況に陥る可能性がある。AIが創造性を限りなく解放できるというのは真実でもあり、嘘でもあるが、真実と変わらない架空の世界を作り上げることで偽者を魅了することもできる。

双方向のコミュニケーションと適切な安全策の提供は、この画期的な技術の将来における重要な要素となるはずです。ケイティ・ペリーのクイズは、デジタル社会の優れた点、つまり、あらゆる構成を形成するだけでなく、好きなように作り変えることができる AI の能力を明確に示しました。