人民網
人民網>>經濟·科技

“意向經濟”興起,AI會操控線上決策嗎

張夢然
2025年03月20日08:52 | 來源:科技日報
小字號

原標題:“意向經濟”興起,AI會操控線上決策嗎

英國劍橋大學科學家近期發布的一項研究顯示,人工智能(AI)工具可以操縱在線用戶的決策過程——從購買什麼商品到投票給哪位候選人。

這項研究凸顯出一種“意向數字信號”的新興市場,即所謂的“意向經濟”。在這個新經濟模式中,AI助手能夠理解、預測並操縱人類的意圖,並可能將這些信息出售給能夠從中獲利的公司。

“注意力經濟”的后繼者

劍橋大學利弗休姆未來智能中心(LCFI)研究人員指出,“意向經濟”被視為“注意力經濟”的后繼者。

“注意力經濟”是一種經濟學理論,它認為在信息過載時代,最稀缺的資源不是信息本身,而是人們的注意力。隨著互聯網和數字技術的發展,信息變得極為豐富甚至過剩,而人們有限的時間和精力決定了他們只能關注其中一部分內容。因此,誰能吸引更多的注意力,誰就能在這個新的經濟模式中佔據優勢。

而“意向經濟”,它基於對用戶意圖和動機的理解、預測及利用。與傳統的“注意力經濟”不同,“意向經濟”不僅僅關注如何吸引用戶的注意力,而是更進一步,通過分析用戶的具體需求和未來計劃,提供高度個性化的產品和服務。

值得警惕的是,在“注意力經濟”模式下,社交網絡通過讓用戶沉迷於其平台並展示廣告,來驅動在線經濟的發展。而在“意向經濟”中,精通AI技術的科技公司將用戶的意向(如酒店住宿計劃或對西方政治候選人的看法)出售給出價最高的人。

“數十年來,注意力一直是互聯網的貨幣。”LCFI技術歷史學家喬尼·佩恩表示,社交媒體平台通過分享用戶注意力推動了在線經濟的發展。如果不加以監管,“意向經濟”可能會掀起一場針對用戶意向的新淘金熱。

擅於推測引導用戶決策

人們知道,大型語言模型(LLM),如ChatGPT的基礎技術,會根據“意向、行為和心理數據”來“預測和引導”用戶決策。例如,LLM可以通過詢問用戶是否想看某部電影(如“你想今晚去看《蜘蛛俠》嗎?”)或提出與未來意向相關的建議(如“你感覺工作過度,我是否給你訂我們討論過的那張電影票?”)來實時獲取用戶的注意力。

這些場景是“動態生成的”,以匹配用戶的“個人行為痕跡”和“心理特征”等因素。研究表明,在“意向經濟”中,LLM可以低成本利用用戶的節奏、詞匯、年齡、性別、偏好等,結合中介競標,最大限度地提高實現既定目標的可能性(例如賣出電影票)。在這樣的世界中,AI模型將引導對話,為廣告商、企業和其他第三方提供服務。

研究指出,廣告商將能夠使用生成式AI工具來定制在線廣告。以馬克·扎克伯格的Meta創建的AI模型Cicero為例,該模型已達到了玩棋盤游戲“外交”的“人類水平”的能力。

這款游戲依賴於推斷和預測對手的意向。這意味著在未來,AI不僅可以幫助廣告商更有效地定位用戶,還可以通過日常交流推斷個人信息,甚至“引導”對話以獲取更多個人信息。

AI模型帶來新挑戰

這項研究還提出了一種未來場景:AI代理可能向廣告商拍賣用戶預訂餐廳、航班或酒店的意向。盡管專門預測和競標人類行為的行業已經存在,但AI模型將進一步提煉這些實踐,使其變得更加量化、動態和個性化。研究警告稱,如果不受監管,AI代理可能學會如何誘導其對話伙伴,以實現特定目標。研究援引英偉達首席執行官黃仁勛之言:AI模型將能夠“根據具體情況弄清楚你的意向是什麼、你的願望是什麼、你想做什麼,並以最佳方式向你呈現信息”。

佩恩認為,在成為“意向經濟”意外后果的受害者之前,人們應開始考慮這樣的市場可能對人類的願望產生什麼影響,包括自由公正的選舉和公平的市場競爭。他強調,除非受到適當的監管,否則“意向經濟”可能會對社會產生深遠的負面影響。因此,社會各界需要更加關注這一新型經濟模式帶來的潛在風險,並積極探討如何制定有效的監管措施來保護公眾利益。

隨著“意向經濟”的興起,人們不僅需要認識到其巨大的商業潛力,還需認真思考其對社會和個人隱私的長遠影響。在此之前,社會應當認真考慮其可能帶來的后果,確保科技進步服務於人類福祉而非相反。

(責編:楊曦、陳鍵)
關注公眾號:人民網財經關注公眾號:人民網財經

分享讓更多人看到

推薦閱讀
返回頂部