美国国会近日提出《AI 紧急关停法案》（AI Kill Switch Act），拟赋予国土安全部长在认定 AI 系统“构成严重威胁”时下令关闭的权力。该法案由参议员 Josh Hawley 提出，旨在为政府提供应对“失控”AI 的紧急手段。
发生了什么
该法案的核心条款是：国土安全部长有权在认为 AI 系统对国家安全、公共安全或关键基础设施构成“迫在眉睫且不可逆转”的威胁时，命令系统所有者立即关闭该系统。法案还要求国土安全部制定关停流程，并建立快速司法审查机制。值得注意的是，法案将“AI 系统”定义为任何“能够执行通常需要人类智能的任务”的软件或硬件，范围极广。
为什么重要
该法案的背景是近年来 AI 能力快速提升，尤其是大语言模型和多模态模型的涌现，引发了关于“AI 失控”的担忧。此前，行业内部曾讨论过“紧急关停开关”（kill switch）的概念，但多停留在技术层面。此次立法尝试将这一概念上升到法律强制力，标志着美国政府开始严肃考虑 AI 风险的极端情形。同时，法案将决策权集中于国土安全部长一人，也引发了对权力滥用和程序正义的质疑。
影响与看点
若法案通过，对 AI 开发者的直接影响是：必须确保系统具备可被远程关停的技术能力，并接受国土安全部的合规审查。这可能导致开发周期延长、成本增加，尤其是对于开源模型，其去中心化特性使得统一关停几乎不可能。此外，法案中“严重威胁”的定义模糊，可能被用于打压竞争对手或不合规的企业，存在被滥用的风险。值得关注的是，该法案与欧盟《AI 法案》中“高风险 AI 系统需具备人工干预能力”的要求有异曲同工之处，但美国版本更强调行政命令的即时性。总体而言，该法案反映了立法者从“鼓励创新”向“风险防范”的转变，但如何在安全与创新之间取得平衡，仍是悬而未决的问题。
