OpenAI 介绍如何在 Azure Cosmos DB 上扩展其存储平台 Habitat

在这篇发表于 2026 年 10 月 23 日的工程系列第二部分中，OpenAI 介绍了 Habitat——支撑 ChatGPT、API 和 Codex 的在线存储平台。OpenAI 称，Habitat 为 40 个区域的超过 10 亿用户提供服务，存储着超过 500 PB 的数据；其文章摘要称，ChatGPT 的读取速度提升了 12 倍。

OpenAI 介绍了其在 Azure Cosmos DB 上的三个阶段：最初依赖数据库自身的限制，导致邻近租户相互干扰，并且随着分区拆分，吞吐量不断下降；随后为每个新用例单独创建容器，令每个产品团队都背上容量规划的负担；最后又回到一个共享的多租户容器，并加入热点键限流、请求优先级层级，以及 Azure 专为其构建的一种新无服务器模式。OpenAI 表示，在此后的数月里，没有发生过配置容量或邻近租户干扰相关的事故。

OpenAI 还称，其最大的 Cosmos DB 帐户存储着数十 PB 数据，每秒处理超过 2,000 万次查询；文章也回顾了 2024 年底的两次服务中断（区域断电，以及故障恢复期间连接请求激增），这些事件促成了 OpenAI 与 Azure 团队的联合测试。文章还介绍了全球缓存和 Rust 代理，以降低开销。以上数据均来自 OpenAI。