剑桥大学研究：AI 可能会被用来操控并出售用户的想法

IT之家最新消息：英国《卫报》报道称，剑桥大学的一项研究发现，人工智能（AI）技术有可能被操控，从而影响在线用户的选择，涉及购物和投票等方面。

据研究显示，名为“意图经济”的新兴市场已初露端倪。在该市场上，AI助手不仅能够分析和预测用户的意图，还可以操控这些意图，并将相关数据售予渴望获取利润的公司。

莱弗休姆未来智能研究中心(LCFI)的研究人员将“意图经济”视为下一个替代“注意力经济”的发展阶段。

IT之家指出：“注意力经济”主要通过社交媒体平台吸引用户注意力并展示广告，而“意图经济”则更深入地针对用户的动机和决策过程。

科技公司可以借助AI技术分析用户需求，并将这些信息拍卖给出价最高的广告商。LCFI技术史学家乔尼・潘恩博士指出：“长期以来，注意力一直是互联网的核心货币。而社交媒体平台通过吸引用户的注意力来推动经济增长。然而，如果缺乏监管，意图经济可能会将用户的动机转化为新的交易筹码，引发用户意图的竞争。”

研究进一步指出，大型语言模型可以实时分析用户行为和心理数据，预测并引导用户的决策过程。例如，AI助手可能主动询问用户是否有兴趣观看某部电影或需要帮助安排娱乐活动，从而影响用户的选择。

这种AI技术还可根据用户的行为轨迹和心理特征动态调整建议。研究警示，这可能导致AI工具被用来操控对话，以实现广告商或第三方的商业目标。

报告特别指出，科技公司已在运用AI推动定制化广告。例如，Meta公司开发的Cicero模型展现出在推测和引导人类意图方面的“类人水平”。

AI模型甚至可以在对话中推测用户信息，并利用交流内容进一步挖掘个人数据，可能引发隐私保护和伦理方面的担忧。

研究表明，大型语言模型可低成本利用用户的言辞风格、立场、年龄、性别、对恭维的偏好等信息，结合广告商的出价，最大限度地实现目标（如售出电影票）。在这个世界中，AI模型将引导对话，为广告商、企业和其他第三方提供服务。

研究进一步预测，未来广告商可能会竞拍用户的预订意图，如餐厅或酒店预订。AI技术将使这一过程更为精确、高效和个性化，显著提升商业化水平。

研究还援引Meta Cicero团队的告警称：“AI系统可能巧妙地引导用户对话，从而实现特定目标。”

英伟达首席执行官黄仁勋曾表示，未来的AI模型将理解用户需求，并根据情境提供最佳信息。这表明，AI技术在预测和影响用户做出决策方面具有巨大潜力。

广告声明：本文涉及的外部链接（包括但不限于超链接、二维码、口令等形式）仅用于传递更多信息，节省搜索时间，结果仅供参考。