“意图经济”来袭：新研究称 AI 工具将操纵用户在线决策

IT之家报道称，剑桥大学的研究团队发现，人工智能（AI）技术有可能被利用来操纵在线用户的决策，对购物选择、投票行为等方面产生影响。

这种操纵行为建立在新兴的“意图经济”（intention economy）基础上，其中AI助手能够理解、预测甚至操控人类意图，并将这些信息出售给相关企业以获取利润。

剑桥莱弗休姆智能未来中心（LCFI）的研究人员认为，“意图经济”可能会取代“注意力经济”（attention economy），个人动机将成为一种新的交易货币。

IT之家指出：关于“注意力经济”，这是指在信息过剩的时代，人们的注意力变成了一种稀缺资源，从而催生出一种经济模式。企业和平台竞相争夺用户的注意力，并将其转化为商业利益。

举例来说，社交媒体平台、短视频应用等通过提供引人入胜的内容和个性化推荐，吸引用户在其平台上消耗更多时间，并通过广告、电商等方式获取利润。

研究人员认为，“意图经济”将迈向一个新的阶段，科技公司将用户动机，如酒店预订计划、政治候选人观点等信息，出售给出价最高者。

ChatGPT等AI聊天机器人背后的关键在于不断发展的大型语言模型（LLM），它将根据用户的“意图、行为和心理数据”来“预测和引导”用户。

LLM可以实时获取用户的注意力，例如询问用户是否有兴趣观看某部电影，并根据用户的“个人行为痕迹”和“心理概况”动态生成建议。

广告商可以利用生成式AI工具制作定制在线广告，甚至像Meta开发的AI模型Cicero一样，预测和推断用户的意图。

更加令人担忧的是，AI模型可以通过日常对话推断个人信息，甚至在“引导”对话以获取更多个人信息。未来，像Meta这样的公司可能会把用户对餐厅、航班或酒店的预订意图拍卖给广告商。

研究人员警告称，如果不受监管，“意图经济”可能把用户的动机作为新的交易货币，对那些瞄准、引导以及出售人类意图的人来说，这将演变为一场“淘金热”。这一趋势可能会对人类愿望产生重大影响，包括自由、公正的选举、新闻自由以及公平的市场竞争。

广告声明：文中包含外部链接，仅供参考。