新興的「意向經濟」暗藏危機
根據英國《衛報》（The Guardian）報導，劍橋大學的研究人員近日發表了一篇論文，警告對話式人工智慧（AI）工具可能很快就會在一個名為「意向經濟」的新商業產業中「暗中影響」使用者的決策。
這項研究指出，這個潛在的、有利可圖但也令人不安的數位意向訊號市場正在興起，可能會在不久的將來影響從購買電影票到投票給政治候選人等各種活動。研究表明，人們越來越熟悉聊天機器人、數位導師和其它所謂的「擬人化」AI 代理，這正為一系列新的「說服技術」鋪平道路。
論文強調，AI 將整合使用者線上習慣的知識，並增強理解和預測他們慾望的能力，最終培養「新的信任和理解層次」。
AI 如何分析並操縱人類意圖？
根據共同作者亞庫布 · 喬杜里（Yaqub Chaudhary）的說法，AI 工具已經被開發出來，可以引出、推斷、收集、記錄、理解、預測，並最終操縱人類的計畫和意圖，並將其商品化。
研究指出，新的 AI 將利用大型語言模型（LLM）來分析使用者的語調、政治觀點、詞彙、年齡、性別、線上歷史，甚至對奉承和討好的偏好。這項技術將與其它旨在實現特定目標的新興 AI 技術相結合，例如銷售電影票或將對話引導至特定平台、廣告商、企業，甚至是政治組織。
研究中說明了被稱為「意圖經濟」的新興產業如何分析使用者的注意力和溝通方式，將行為模式和選擇聯繫起來。喬杜里指出：「人工智慧工具可以用於紀錄、收集、推斷、理解、預測，最終操縱人們的決定和行為。」
未受監管的「意向經濟」將帶來什麼影響？
共同作者喬尼 · 潘（Jonnie Penn）警告說：「除非受到監管，否則意向經濟將把你的動機視為新的貨幣。」他補充說：「對於那些針對、引導和出售人類意圖的人來說，這將是一場淘金熱。」潘強調，在我們成為其意外後果的受害者之前，有必要考慮這樣一個市場對人類願望的潛在影響，包括自由和公平的選舉、自由的新聞和公平的市場競爭。他指出，公眾對這個問題的認識對於確保我們不會走上錯誤的道路至關重要。研究人員警告，如果不加以管理，未來可能導致「產業規模的社會操縱」。
我們該如何應對？
這項研究揭示了 AI 技術在商業產業中潛在的危險，特別是它如何被用來影響甚至操縱人類的意圖和決策。研究人員呼籲對「意向經濟」進行監管，以防止其對社會造成負面影響。同時，提高公眾對此問題的認識也至關重要，只有當人們意識到這種潛在的威脅時，才能更好地保護自己免受操縱。這項研究不僅是對 AI 技術發展的警示，也是對我們如何在這個日益數位化的世界中保護個人自主性和社會公平性的重要提醒。
延伸閱讀
干擾美國大選！俄羅斯、伊朗和中國正靠AI介選，該怎麼防範？
『小心AI！劍橋警告：AI恐被用來操縱人類思想，該如何保護自主性』這篇文章最早發佈於『加密城市』