剑桥大学研究：AI可能会被用来操控用户的选择，相关数据或被出售

IT之家 12 月 30 日消息，据英国《卫报》今日报道，剑桥大学的一项研究警告称，人工智能 (AI) 技术可能被用来操控在线用户的选择 —— 从购买商品到投票决定。

研究指出，一个名为“意图经济”的新兴市场正在成形。在这一市场中，AI 助手不仅可以分析和预测用户意图，还能操控这些意图，并将相关数据出售给希望获利的公司。

剑桥大学莱弗休姆未来智能研究中心 (LCFI) 的研究人员将“意图经济”视为取代“注意力经济”的下一阶段发展。

IT之家注：“注意力经济”通过社交平台吸引用户注意力并推送广告，而“意图经济”则更加深入，直接针对用户的动机和决策过程。

科技公司可以利用 AI 技术分析用户的需求，并将这些信息拍卖给出价最高的广告商。“长期以来，注意力一直是互联网的核心货币。”LCFI 技术史学家乔尼・潘恩博士指出，“社交媒体平台通过吸引用户注意力驱动经济增长。然而，意图经济若缺乏监管，将把用户的动机变成新的交易筹码，导致对用户意图的争夺战。”

研究进一步分析，大型语言模型可以实时分析用户行为和心理数据，预测并引导其决策过程。例如，AI 助手可能会主动询问用户是否要观看某部电影或帮助安排娱乐活动，从而影响用户的选择。