剑桥大学研究：AI 可能会被用来操控用户的选择，相关用户数据将被出售

根据英国《卫报》12 月 30 日的报道，剑桥大学的一项新研究警告，人工智能 (AI) 技术可能被用于影响在线用户的选择，包括购买商品和投票行为。

研究表明，现今正在出现一种被称为“意图经济”的新市场。在这个市场中，AI 助手不仅能够分析和预测用户意图，还能干预这些意图，并将相关数据出售给希望获取利润的企业。

剑桥大学莱弗休姆未来智能研究中心 (LCFI) 的研究者将“意图经济”视为继“注意力经济”之后的另一个发展阶段。

需要注意的是：“注意力经济”旨在通过社交网络吸引用户的注意力并展示广告，而“意图经济”则更深入地切入，直接影响用户的动机和决策过程。

科技企业可以利用 AI 技术来分析用户的需求，并将这些宝贵信息出售给出价最高的广告客户。LCFI 的技术史学家乔尼·潘恩博士表示：“长期以来，注意力是互联网的主要货币。社交媒体借助用户的关注推动了经济增长。但如果没有适当的监管，意图经济将会将用户的动机变为交易的筹码，从而引发对用户意图的激烈竞争。”

研究还进一步探讨了大型语言模型的能力，包括如何实时分析用户的行为及心理数据，进而预测并引导其决策。例如，AI 助手可能会主动询问用户是否观看某部电影或安排娱乐活动，从而对用户的选择产生影响。

这样的 AI 技术还可以根据用户的行为模式和心理特征，动态地调整建议。研究强调，这可能使得 AI 工具被不当使用，以操控对话服务于广告商或其他第三方的商业利益。

报告提到，科技公司正在利用 AI 加大定制化广告的力度。例如，Meta 公司开发的 Cicero 模型在推测和引导人类意图方面表现出了“类人水平”。

AI 模型甚至具备在对话中推测用户信息的能力，并通过交流内容深入挖掘个人数据。这引发了隐私和伦理方面的担忧。

研究显示，大型语言模型可以低成本地识别用户的说话风格、观点、年龄、性别及其他偏好，并根据经纪人的出价，实现最佳效果（如增加电影票销售）。在这一背景下，AI 模型将主导对话，为广告公司、企业及其他第三方提供服务。

研究预计，未来广告商可能会为用户的预订意图出价，例如餐厅或酒店的预订，而 AI 技术将使这一过程更加精准、高效和个性化，从而显著增加商业化的活跃度。

报告还引述了 Meta Cicero 团队的警告：“AI 系统可能会巧妙地引导用户对话，以实现特定的目标。”

英伟达首席执行官黄仁勋曾表示，未来的 AI 模型将能够理解用户的需求，并根据情境提供合适的信息。这表明，AI 技术在预测和影响用户决策方面的潜力不容小觑。

广告声明：文中提及的外部链接（包括但不限于超链接、二维码、口令等形式）旨在提供更多信息，以便节省筛选时间，结果仅供参考。