美国两党议员即将提出一项法案，要求 AI 公司必须为国土安全部提供“紧急关闭”能力。

发生了什么

据 Politico 报道，众议员 Ted Lieu（加州民主党）和 Nathaniel Moran（得克萨斯州共和党）预计将于周四提交“AI 紧急关闭法案”（AI Kill Switch Act）。该法案将要求 AI 公司在其系统中植入“紧急关闭”机制，以便在国土安全部（DHS）认为必要时，能够立即关闭或限制 AI 系统的运行。目前法案全文尚未公布，但核心意图是赋予联邦政府直接干预 AI 系统运行的权力。

为什么重要

这是美国国会首次尝试通过立法，为 AI 系统设置“物理级”的强制关停手段。此前，关于 AI 安全的讨论多集中在算法偏见、数据隐私或内容审核上，而“紧急关闭”直接触及对 AI 系统运行的控制权。

该法案的提出背景是 AI 能力快速提升带来的安全焦虑。从生成式 AI 的“幻觉”问题到自主系统的不可预测性，政策制定者担心一旦 AI 系统失控，可能造成大规模社会危害。国土安全部作为负责国内安全的机构，被选为执行方，暗示法案主要针对可能影响关键基础设施或公共安全的 AI 系统。

值得注意的是，该法案由跨党派议员联合提出，表明 AI 监管已成为两党共识领域。Lieu 本人是计算机科学背景，曾多次参与 AI 相关立法，而 Moran 则是众议院司法委员会成员，关注科技与法律交叉问题。

影响与看点

如果法案通过，将对 AI 行业产生深远影响。首先，技术层面：AI 公司需要设计可被外部强制关闭的系统架构，这可能涉及“开关”接口、权限验证、以及防止误触发的安全机制。对于大型模型，完全关闭可能不现实，法案中的“throttle”（限制）选项或许更可行。

其次，合规成本：企业需要投入资源开发并测试紧急关闭功能，同时与国土安全部协调响应流程。小型初创公司可能面临更大压力。

值得关注的看点：

  • 法案如何定义“紧急情况”？是仅针对类似核电站、电网等关键系统，还是覆盖所有商业 AI？
  • 关闭命令的触发条件与司法审查：如何防止政府滥用权力？
  • 国际影响：欧盟 AI 法案已有类似“停止运行”条款，美国此举可能推动全球监管趋同。

独立判断：该法案象征意义大于实际可操作性——真正的挑战在于定义“失控”并确保关闭命令不被规避。但它的提出本身就标志着 AI 治理从“自律”向“他律”的转折。