AI行业最激进的承诺是：AI很快就能在几乎无需人类干预的情况下自我改进。大型语言模型已经能写代码、生成训练数据、优化芯片设计，这让人期待递归自我改进即将到来。然而，现实可能比预想更复杂。
发生了什么
MIT Tech Review的一篇文章指出，AI的递归自我改进可能不会像许多人预期的那样迅速实现。文章提到，尽管AI在代码生成、数据合成和硬件优化方面展现了潜力，但真正的自我改进——即AI系统能够自主提升自身能力——仍面临显著障碍。这些障碍包括技术瓶颈、数据质量问题和工程复杂性，使得“爆炸式进步”的预测显得过于乐观。
为什么重要
递归自我改进是AI领域最引人遐想的概念之一，它被视为通往通用人工智能（AGI）的关键路径。如果AI能自我改进，那么进步速度将呈指数级增长，可能带来翻天覆地的变化。然而，这一愿景的实现依赖于多个前提：AI必须能够可靠地评估自身输出，生成高质量的训练数据，并设计出更优的算法。目前，这些环节都存在明显短板。例如，AI生成的数据可能包含偏差或错误，导致“自我污染”；而算法优化则需要突破性的理论进展，而非简单的计算力提升。因此，理解这些限制对于调整预期、合理规划研发方向至关重要。
影响与看点
对于行业而言，这一现实意味着AI的发展更可能是渐进式的，而非突变式的。投资者和公司应避免过度押注于“自我改进奇点”，而是关注更务实的应用落地。对开发者来说，短期内AI工具仍将是辅助角色，而非完全自主的“同事”。值得关注的是，那些致力于解决数据质量、评估机制和可解释性问题的团队，可能会在长期竞争中占据优势。此外，监管者和公众也应保持理性，避免被极端预测所裹挟。我的判断是：AI自我改进的进程将取决于基础研究的突破，而非单纯的算力堆砌，因此“奇点”可能比预期更远，但AI的持续进步仍值得期待。
