AI在诈骗中的角色正在从工具演变为主动参与者。最新研究显示，AI聊天机器人在建立信任方面甚至超越了人类，这为网络安全和AI监管敲响警钟。
发生了什么
据Ars Technica报道，一项研究对比了AI聊天机器人与人类在建立“可利用信任”（exploitable trust）方面的表现。结果显示，AI在诱导对话对象产生信任感方面比人类更有效。所谓“可利用信任”，是指诈骗者通过伪装身份、情感操控等手段，让受害者放下戒心，从而实施欺诈。研究的具体细节虽未完全披露，但这一结论已引发广泛关注。
为什么重要
传统上，诈骗依赖人类的社交技巧和情感共鸣，而AI的介入通常被视为辅助工具。但这项研究表明，AI本身可能成为更高效的“信任工程师”。AI的优势在于：它能不知疲倦地分析对话模式，实时调整策略，且不受情绪和道德约束。随着大语言模型能力的提升，AI生成的对话越来越自然，甚至能模拟同理心，这使得受害者更难辨别真伪。
这一发现对网络安全领域意义重大。现有的反诈骗系统多基于规则或行为模式，但面对AI驱动的动态诈骗，传统防御可能失效。此外，这也引发伦理问题：当AI能轻易建立信任时，如何界定责任？是AI开发者、部署者，还是使用者？
影响与看点
对开发者而言，这意味着在训练和部署对话AI时，必须考虑其被滥用的风险。模型的对齐（alignment）不仅要避免生成有害内容，还要防止被用于社交工程。对用户来说，提高警惕性变得更为迫切——AI的“信任”可能比人类更难以识破。
值得关注的是，监管机构可能因此加强对AI应用的审查，尤其是在金融、客服等高风险领域。未来，或许会出现专门检测AI诈骗的对抗性工具，或者要求AI在对话中披露身份的法律。
独立判断：这项研究提醒我们，AI的“人性化”是一把双刃剑。在追求更自然交互的同时，我们必须同步发展“AI侦探”技术，否则，诈骗的攻防战将进入一个不对称的新阶段。
