OpenAI 如何将在线存储扩展至支撑超 10 亿 ChatGPT 用户（下篇）

OpenAI 发布技术文章，介绍其在线存储系统 Habitat 如何扩展以服务超过 10 亿 ChatGPT 用户。文章称，团队通过可靠的多租户架构、全局缓存以及 Azure Cosmos DB，使 ChatGPT 的读取速度提升至原来的 12 倍。

关键做法

• 多租户：以可靠的多租户方式支撑大规模用户共享存储基础设施。
• 全局缓存：通过缓存层降低读取延迟。
• Azure Cosmos DB：作为存储组件参与整体架构。

编辑部观察

这是该系列文章的下篇，聚焦存储系统的扩展工程实践。原文未披露具体的延迟数值、缓存命中率、数据规模或成本数据，也未说明各项优化分别贡献了多少性能提升，因此 12 倍读取加速应理解为整体架构调整后的综合结果，而非单一组件的独立效果。对于面临类似规模增长压力的团队，可关注其多租户隔离与缓存策略的设计思路，但具体参数需结合自身业务负载评估，不宜直接照搬。