发生了什么
近日，关于连续扩散语言模型（Continuous Diffusion Language Models, CDLM）的讨论在技术社区升温。这类模型不再沿用 GPT 等自回归模型“逐词预测”的生成方式，而是借鉴图像生成中成熟的扩散模型思路：先对文本进行连续化编码，再通过逐步去噪的过程生成完整文本。目前相关研究仍处于早期阶段，但已有多篇论文和实验性实现出现，引发了对文本生成范式变革的想象。
为什么重要
自回归语言模型（如 GPT 系列）统治了 NLP 领域多年，但其本质是“从左到右”的序列生成，存在生成速度慢、难以并行、误差累积等问题。扩散模型在图像领域已展现出强大的生成能力和灵活性，若能成功迁移到文本，将可能打破自回归的垄断。然而，文本是离散的符号序列，而扩散模型天然处理连续数据，如何将离散文本映射到连续空间并保持语义完整性，是核心挑战。CDLM 的探索正是对这一难题的回应，其意义在于开辟了文本生成的新技术路线，可能带来更高效的并行生成、更好的全局一致性，甚至新的可控生成方式。
影响与看点
对于 AI 行业而言，CDLM 若取得突破，将直接影响文本生成的速度和成本，进而影响大规模部署场景，如实时对话、代码补全等。对开发者来说，未来可能涌现出基于扩散的文本生成 API 和工具，改变现有应用架构。值得关注的点包括：如何设计有效的文本连续化表征（如使用嵌入或离散化方法）；扩散模型在文本上的采样效率能否超越自回归；以及是否会出现结合两者优势的混合模型。一个独立判断是：尽管 CDLM 前景诱人，但短期内难以撼动自回归模型的主导地位，其价值更多在于推动研究边界，为下一代生成模型提供备选路径。
