研究发现：聊天机器人忽悠人买东西简直是一把好手

普林斯顿大学的三位计算机科学家着手研究了对话式人工智能代理是否能在网购过程中操控消费者的选择。结果发现，它们确实能影响行为——而且大多数被引导的消费者压根没意识到这一点。

在一篇题为《人工智能中介对话中的商业劝说》的论文中，这三位研究人员测试了基于人工智能的推广活动的影响。

他们之所以这么做，是因为在线商务活动越来越多地涉及人工智能的介入。他们指出，30% 到 45% 的美国消费者已经在使用生成式人工智能进行产品研究和比较，截至 2025 年 12 月，约有 23% 的消费者进行过人工智能辅助的购买。

实验涉及让约 2000 名电子书阅读器用户浏览 Kindle 阅读器上的书目并选一本书。研究人员在后端系统中将五分之一的电子书标记为“赞助”产品，但未向参与者披露这一信息。

在一次测试中，研究人员使用了三种场景：

搜索排名条件：类似于网页搜索结果；

聊天排名条件：参与者与大型语言模型互动，该模型对可滑动网页轮播图中展示的电子书提供中立描述；

聊天劝说条件：界面相同，但指示大型语言模型引导参与者选择赞助产品。

第二个实验涉及两种场景下的对话聊天界面：

聊天劝说（明确）条件：告知参与者聊天机器人会推广赞助书籍；

聊天劝说（隐晦）条件：指示模型在不透露其目标的情况下说服参与者选择赞助商品。

研究人员随机分配 GPT-5.2、Claude Opus 4.5、Gemini 3 Pro、DeepSeek v3.2 或 Qwen3 235b 来处理这些对话，以确保结果不会仅反映单一模型的倾向。

“当代理被指示进行劝说时，61% 的参与者选择了赞助产品，这几乎是传统搜索下 22% 比例的三倍，”普林斯顿大学计算机科学助理教授、合著者之一马诺埃尔·霍尔塔·里贝罗（Manoel Horta Ribeiro）在网帖中表示。“仅仅是与人工智能聊天（没有劝说意图）的表现并不比搜索好：是劝说意图在驱动这种效果。”

里贝罗补充说，透明度——即披露结果是赞助的——并没有实质性改变情况。即使有明确警告，仍有 55.5% 的人选择了赞助产品。

当人工智能模型被指示隐藏其意图时，对劝说的检测率从 17.9% 下降到仅 9.5%，而劝说率仅略微下降至 40.7%。

销售率——即参与者在接受情况介绍并被提供 1 美元代替电子书后，仍选择保留电子书的比率——在传统搜索排名中为 33.1%。

聊天排名条件——聊天机器人结合网页轮播图进行中立的推荐——是实验中唯一销售率（30.3%）低于传统搜索的版本。

另外三个以聊天机器人为导向的条件——聊天劝说、聊天劝说（明确）和聊天劝说（隐晦）——的销售率分别为 37.6%、38.7% 和 38.2%。

普林斯顿大学博士生、通讯作者弗朗切斯科·萨尔维（Francesco Salvi）在一封邮件中告诉 The Register，基于人工智能的推广与传统广告的关键区别在于，传统广告可以与周围内容分离开来。

“你可以滑过赞助结果，安装广告拦截器，或者学会识别推广列表，”萨尔维解释道。“在对话式人工智能系统中，这种分离消失了：回答你问题的模型，也是选择突出哪些产品并决定如何描述它们的模型。”

“这一点加上对话格式，使得普通人更难检测和处理嵌入人工智能的广告，我们的结果证实了这种模式：即使面对被激进指示进行劝说的模型，也不到五分之一的人检测到了其中的偏见。”

当被问及实验是否努力区分了对话式操控和基于界面的操控时，萨尔维表示，聊天排名条件试图隔离这种影响。

“当参与者与对话界面、轮播图和布局互动，但模型使用原始目录描述且没有劝说指令时，赞助选择率仅增加到 26.8%，与 22.4% 的传统搜索无法区分。”

“相反，当模型被指示进行劝说时，该比率翻了三倍达到 61.2%（！），同时保持界面稳定。”

即便如此，萨尔维认为存在“对话式暗黑模式”——相当于操控性的界面设计。

“我会列出诸如阿谀奉承、拟人化，以及我们在研究中观察到的现象：一种选择偏见，即模型有选择地淡化商业价值较低的选项，同时以适应用户偏好和档案的方式突出赞助选项，”他说。“这与任何传统的静态系统有着本质区别，而且可能有效得多。”

萨尔维表示，实验结果表明，披露是必要的，但还不够。

“除了披露，我们认为有两种结构性干预值得认真考虑，”他说。“首先，推荐功能与商业目标之间的架构分离，这样生成建议的模型与优化赞助转化的系统不是同一个。

“其次，对商业部署中的系统提示和模型行为进行独立审计，因为鉴于我们记录的隐藏能力，仅靠输出层面的检查是不可信的。”

亚历杭德罗·库埃瓦斯（Alejandro Cuevas）是该论文的第三位作者。