OpenAI 說明如何在 Azure Cosmos DB 上擴展其儲存平台 Habitat

在這篇日期為 2026 年 10 月 23 日的工程系列第二部分中，OpenAI 介紹了 Habitat——支援 ChatGPT、API 和 Codex 的線上儲存平台。OpenAI 表示，Habitat 為超過 40 個區域的 10 億多名使用者提供服務，儲存超過 500 PB 的資料；OpenAI 對文章的摘要稱，ChatGPT 的讀取速度提升了 12 倍。

OpenAI 說明了在 Azure Cosmos DB 上的三個階段：首先依賴資料庫本身的限制，導致鄰近租戶互相影響，且分割區拆分時吞吐量會下降；接著為每個新用途建立專屬容器，讓容量規劃成為每個產品團隊的負擔；最後則回到共用的多租戶容器，搭配熱點索引鍵節流、請求優先級層級，以及 Azure 為其打造的新無伺服器模式。OpenAI 表示，過去幾個月來沒有發生容量配置或鄰近租戶互相影響的事件。

OpenAI 也表示，其最大的 Cosmos DB 帳戶儲存數十 PB 資料，每秒處理超過 2,000 萬次查詢；此外，文章回顧了 2024 年底的兩次服務中斷（區域停電，以及故障切回期間的連線風暴），這促成了與 Azure 團隊的聯合測試。文章也談到全域快取和 Rust proxy，以降低額外負載。所有數據皆出自 OpenAI。