当AI开始替人做决定，我们是否还愿意继续把它当作一个可信的黑箱？微软CEO萨提亚·纳德拉给出了否定的答案。
发生了什么
纳德拉在X上发布了一篇长文，系统阐述了他对高度先进AI模型所带来风险的看法，以及应对思路。据The Verge报道，他的核心主张之一是：我们不能再接受一个把AI视为“一组嵌套黑箱”的世界——用户只能被动接受其建议和行动，而无法审视其内部逻辑。他提出，应当假设所有AI模型都已被“攻陷”（compromised），即默认它们可能被污染、操纵或存在未知缺陷，并在此基础上建立防御与验证机制。
为什么重要
这一表态的分量，来自发言者的位置和时机。纳德拉执掌的微软，是OpenAI的主要投资方和云服务伙伴，也是把生成式AI推向企业市场的关键推手。由他来公开呼吁“默认不信任”，等于承认当前AI安全范式存在结构性缺口。
过去两年，行业注意力集中在模型能力跃升上，安全讨论多停留在对齐、红队测试和内容过滤。但纳德拉指向的是更根本的问题：当模型成为代理（agent），能调用工具、访问数据、执行操作时，传统的“信任但验证”不再够用。如果模型本身可能被提示注入、数据投毒或供应链攻击影响，那么把它当作单一可信实体就是危险的。这与安全领域“零信任”架构的思路一脉相承——不默认任何组件安全，持续验证。
影响与看点
对行业而言，这意味着AI安全的重心可能从“让模型更可信”转向“在模型不可信的前提下仍能安全运行”。这会催生对模型行为审计、运行时监控、权限隔离和可解释性工具的需求。对企业开发者，选型时除了看基准分数，还要评估模型的可观测性和故障隔离能力。对普通用户，短期内感知不强，但长期看，AI产品的信任机制会从“品牌背书”转向“可验证的透明性”。
一个值得关注的矛盾是：纳德拉一边呼吁不信任模型，一边领导着将模型深度嵌入产品线的公司。这种张力本身说明，安全叙事正在成为AI商业化的必要组成部分，而非可选项。
独立判断：把“所有模型都可能被攻陷”作为默认假设，是AI从工具走向代理阶段的必然代价。谁先建立起不依赖模型可信的安全架构，谁就更可能赢得企业级市场的长期信任。
