OpenAI、Azure Cosmos DB上でストレージ基盤Habitatをどのように拡張したかを解説

2026年10月23日付のエンジニアリングシリーズ第2回で、OpenAIはChatGPT、API、Codexを支えるオンラインストレージ基盤Habitatについて説明しています。OpenAIによると、Habitatは40のリージョンで10億人を超えるユーザーにサービスを提供し、500ペタバイトを超えるデータを保持しています。また、投稿の要約では、ChatGPTの読み取りが12倍高速になったとしています。

OpenAIは、Azure Cosmos DB上での3つの段階を説明しています。まず、データベース自体の制限に依存した結果、ノイジーネイバーが発生し、パーティション分割に伴ってスループットが低下しました。次に、新たなユースケースごとに専用のコンテナーを設けましたが、各プロダクトチームにとって容量計画が負担になりました。そして、ホットキーのスロットリング、リクエスト優先度の階層、新たにAzureが同社向けに構築したサーバーレスモードを備えた、共有のマルチテナントコンテナー1つに戻りました。OpenAIによると、それ以降の数カ月間、プロビジョニングやノイジーネイバーに関するインシデントは発生していません。

OpenAIはまた、最大のCosmos DBアカウントが数十ペタバイトを保存し、毎秒2,000万件を超えるクエリを処理していると述べています。さらに、2024年後半に起きた2件の障害（リージョンの停電と、フェイルバック時の接続集中）についても振り返り、これをきっかけにAzureチームと共同テストを行ったとしています。投稿では、グローバルキャッシュやオーバーヘッド削減のためのRustプロキシも取り上げています。数値はいずれもOpenAIによるものです。