当外界把注意力集中在模型能力上时,真正决定 AI 产品能否服务十亿级用户的关键,往往在模型之外。
发生了什么
OpenAI 发布技术文章,介绍其内部存储系统 Habitat 的演进路径:它最初只是一个 Python 库,如今已发展为全球分布式存储平台,支撑 ChatGPT 超过 10 亿用户,并承受每秒约 2200 万次请求。文章的核心并非发布新产品,而是复盘一次基础设施层面的重构——从单点工具走向跨地域、可水平扩展的存储服务。
为什么重要
ChatGPT 的负载形态与传统 Web 应用有本质差异。对话历史、文件上传、多模态内容、模型产物都需要被高频读写,且访问模式高度不均匀:热门会话可能被反复读取,冷数据则长期沉默。这类负载对一致性、延迟和成本同时提出要求,很难用现成的通用方案直接覆盖。
Habitat 从库到平台的转变,反映的是一个常见但容易被低估的规律:当产品规模跨过某个阈值,原先「够用」的内部工具会迅速变成瓶颈,团队不得不把它当作独立系统来重新设计。存储层一旦成为瓶颈,影响的不只是速度,而是整个产品的可用性上限。
值得注意的是,OpenAI 选择公开这类工程细节,本身也是一种信号——在模型能力逐渐趋同的竞争格局下,工程效率与规模化能力正在成为差异化的一部分。
影响与看点
对开发者而言,这篇文章的价值不在具体实现,而在问题拆解方式:如何界定读写路径、如何划分冷热数据、如何在多地域部署中权衡延迟与一致性。这些思路对自建 AI 应用的团队同样适用,即便规模小几个数量级。
对行业而言,一个值得关注的趋势是:AI 公司正在把内部基础设施能力外化为技术叙事。这既服务于招聘与生态建设,也暗示未来可能出现更多面向开发者的存储或数据层产品。
对普通用户,这类工作几乎不可见,但它决定了高峰时段对话是否卡顿、历史记录是否可靠。
一个独立判断:模型竞赛的下半场,胜负手可能不在参数规模,而在谁能用更低的单位成本稳定承载更大的请求量。存储这类「不性感」的环节,恰恰是最难被快速复制的能力之一。



