AI购物代理被寄予厚望,但一项来自沃顿商学院的新研究泼了冷水:它们远未准备好替你下单。

发生了什么

沃顿商学院的研究人员测试了AI购物代理的稳定性,结果令人担忧。他们发现,这些代理的推荐极易受到外部信息源的影响:仅仅引入一个像Wirecutter这样的评测网站,产品选择就可能发生高达99个百分点的偏移。更令人意外的是,即使改变相同信息的呈现顺序,也会导致不同的推荐结果。这意味着AI购物代理的决策逻辑高度敏感,甚至可以说是混乱的。

为什么重要

AI购物代理被视为电商自动化的下一站,各大科技公司和初创企业都在积极布局。然而,这项研究揭示了其核心缺陷:缺乏稳定性。一个可靠的购物代理应当基于用户需求和客观事实做出一致推荐,但当前技术显然无法保证这一点。这并非简单的精度问题,而是根本性的可靠性问题。如果AI代理连稳定的推荐都无法提供,那么信任它们进行实际购买就无从谈起。研究结果也呼应了更广泛的担忧:AI系统在面对复杂真实场景时,其表现可能远不如演示中那么光鲜。

影响与看点

这项研究对行业、开发者和用户都有直接启示。对于开发者而言,需要重新审视模型对输入信息的敏感性,并探索更鲁棒的推理机制,例如引入对抗训练或不确定性估计。对于平台方,在推出AI购物功能时,应明确标注其局限性,避免用户因推荐不一致而产生困惑或损失。对于用户,现阶段将AI代理作为参考工具尚可,但不应完全依赖其做最终决策。值得关注的是,研究中所指出的问题可能并非购物代理独有,其他依赖外部信息的AI系统(如旅行规划、投资建议)也可能存在类似脆弱性。未来,如何提升AI在真实世界中的稳定性和可解释性,将是比单纯提升准确率更重要的课题。