新興の「意図経済」は危機を秘めている
イギリスの（ガーディアン）報道によると、ケンブリッジ大学の研究者たちは最近、対話型人工知能（AI）ツールが「意図経済」と呼ばれる新たなビジネス分野でユーザーの意思決定に「密かに影響を与える」可能性があると警告する論文を発表しました。
この研究は、潜在的で利益をもたらすが不安を呼び起こすデジタル意図信号市場が台頭しており、近い将来、映画のチケット購入から政治候補者への投票など様々な活動に影響を与える可能性があることを指摘しています。研究は、人々がチャットボット、デジタルメンター、およびその他のいわゆる「擬人化」AIエージェントにますます慣れてきていることを示しており、これが新たな「説得技術」の一連の道を開いています。
論文は、AIがユーザーのオンライン習慣に関する知識を統合し、彼らの欲望を理解し予測する能力を強化し、最終的に「新しい信頼と理解のレベル」を育むことを強調しています。
AIはどのように人間の意図を分析し、操作するのか？
共著者ヤクブ・チャウダリー（Yaqub Chaudhary）によれば、AIツールは人間の計画や意図を引き出し、推測し、収集し、記録し、理解し、予測し、最終的に操作し、それを商品化するために開発されています。
研究は、新しいAIが大規模言語モデル（LLM）を利用してユーザーの口調、政治的見解、語彙、年齢、性別、オンライン履歴、さらにはお世辞やご機嫌取りの好みを分析することを示しています。この技術は、映画のチケットを販売したり、対話を特定のプラットフォーム、広告主、企業、さらには政治団体に導くことを目的とした他の新興AI技術と組み合わされます。
研究では、「意図経済」と呼ばれる新興産業がどのようにユーザーの注意力やコミュニケーション方法を分析し、行動パターンと選択を関連づけるかが説明されています。チャウダリーは、「人工知能ツールは、人々の決定や行動を記録し、収集し、推測し、理解し、予測し、最終的には操縦するために使用される可能性があります。」と指摘しました。
規制されていない「意図経済」はどのような影響をもたらすのか？
共著者ジョニー・ペン（Jonnie Penn）は警告しています。「規制がなければ、意図経済はあなたの動機を新たな通貨として扱うでしょう。」彼は続けて、「人間の意図をターゲットにし、導き、販売する人々にとって、これはゴールドラッシュになるでしょう。」と強調しました。ペンは、私たちがその予期しない結果の犠牲者になる前に、このような市場が人間の願望に与える潜在的な影響、自由で公正な選挙、自由な報道、公正な市場競争を考慮する必要があると述べています。彼は、この問題に対する一般の認識が私たちが間違った道を歩まないために重要であると指摘しました。研究者たちは、管理されなければ、将来的に「産業規模の社会的操作」を引き起こす可能性があると警告しています。
私たちはどのように対処すべきか？
この研究は、AI技術がビジネス分野で持つ潜在的な危険を明らかにしており、特にそれがどのように人間の意図や意思決定に影響を与え、さらには操作するために使用されるかに焦点を当てています。研究者たちは、「意図経済」に対する規制が社会に対する負の影響を防ぐために必要であると呼びかけています。同時に、一般の人々がこの問題に対する認識を高めることが重要であり、潜在的な脅威に気づいたときに初めて、自らを操縦から守ることができるのです。この研究は、AI技術の発展に対する警告だけでなく、私たちがこのますますデジタル化する世界で個人の自律性と社会的公正をどのように保護すべきかを重要に思い出させるものです。
関連情報
アメリカの選挙に干渉！ロシア、イラン、中国がAIを使って介入している。どのように防ぐべきか？
『注意せよAI！ケンブリッジ警告：AIは人間の思考を操作するために使用される可能性があり、自律性をどのように保護するか』という記事は最初に『暗号都市』に掲載されました。