DeepMind CEO Demis Hassabis 近日公开呼吁建立独立的人工智能标准机构,参照美国金融业监管局(FINRA)模式,对前沿 AI 模型进行测试并制定发布最佳实践。

发生了什么

Hassabis 在多个场合提出,AI 行业需要类似 FINRA 的独立机构来监管前沿模型。该机构将负责:1)对前沿 AI 模型进行标准化测试;2)制定模型发布的最佳实践指南;3)推动行业自律而非政府强制监管。FINRA 是美国证券业的非政府自律组织,负责制定规则、监督市场参与者行为。Hassabis 认为 AI 领域需要类似的独立、专业机构,以平衡创新速度与安全需求。

为什么重要

当前全球 AI 监管处于碎片化状态:欧盟通过《AI 法案》采取风险分级监管,美国则依赖行政令和行业自愿承诺,中国实施算法备案和生成式 AI 管理办法。Hassabis 的提议代表了一种行业内部的自律方案,试图在政府监管缺位或滞后时,由技术专家主导建立安全标准。FINRA 模式的优势在于其灵活性和专业性——机构由行业资助但独立运作,能快速响应技术变化。然而,FINRA 本身也因执法力度不足而受到批评,AI 标准机构能否避免同样问题存疑。

影响与看点

对开发者而言,若此类机构成立,模型发布前可能需要通过标准化测试,这可能延长发布周期但提升安全性。对用户来说,独立测试能提供更可靠的安全评估,减少对厂商自我声明的依赖。值得关注的是:该机构如何确保独立性(避免被大公司主导)、测试标准是否公开透明、以及全球不同监管体系如何协调。Hassabis 的提议反映了行业对“自我监管”的探索,但最终效果取决于具体设计和执行力度。