当AI公司开始用AI来改进AI本身,进步速度会快到什么程度?一份来自安全研究机构METR的新报告,给出了一个让研究者警觉的答案。
发生了什么
据The Verge报道,AI安全研究机构METR在进行了为期11周的调查后发布报告,聚焦Anthropic内部的AI研发实践。核心发现是:Anthropic正在使用AI来构建更强大的AI,而且效果相当显著——公司模型的改进速度大约是一年前的两倍,且几乎没有放缓的迹象。
需要说明的是,报道摘要并未披露具体的测量方法、样本范围或加速幅度的精确口径,因此对"两倍"这一表述应理解为方向性判断,而非可直接横向比较的行业基准。
为什么重要
AI自我改进(AI building AI)一直是安全讨论中的敏感地带。它之所以敏感,不在于"机器写代码"本身,而在于一旦研发流程中的关键环节——实验设计、代码编写、结果评估——越来越多地由模型承担,能力提升就可能进入一个反馈回路:更强的模型帮助造出更强的模型。
METR的介入让这件事从推测变成了可观测对象。这家机构以测量AI能力及其社会影响见长,其调查的价值在于把"加速"从模糊感受转化为有时间窗口、有对象的实证描述。研究者感到不安,恰恰是因为报告指向的不是某一次能力跃升,而是一种持续性的、系统层面的提速。
影响与看点
对行业而言,如果头部实验室的迭代节奏真在加快,追赶者的压力会同步放大,模型代际的窗口期会被压缩,算力与数据之外,"用AI做研发"的组织能力可能成为新的竞争变量。
对开发者和用户,短期内的直观感受可能是模型更新更频繁、能力抬升更陡;但更值得关注的是评估体系能否跟上——当模型由AI参与训练,外部机构要判断其真实能力与风险,难度会显著上升。
对安全治理,这份报告提出的问题比答案更多:加速是否可测、可解释、可干预?谁来审计研发流程本身?在缺乏统一披露标准的情况下,外部几乎无法独立验证各家实验室的自我改进程度。
一个独立的判断是:真正需要警惕的未必是速度本身,而是速度与可见性之间的落差——如果能力在加速,而外部对研发过程的了解没有同步加深,风险就会在信息不对称中积累。METR这份报告的意义,或许正在于把这种落差第一次摆到了台面上。



