OpenAI explique comment l’entreprise a fait évoluer Habitat, sa plateforme de stockage, sur Azure Cosmos DB

Dans la deuxième partie d’une série consacrée à l’ingénierie, publiée le 23 octobre 2026, OpenAI présente Habitat, la plateforme de stockage en ligne qui sous-tend ChatGPT, l’API et Codex. OpenAI indique qu’Habitat sert plus d’un milliard d’utilisateurs dans 40 régions et stocke plus de 500 pétaoctets de données. Selon le résumé de l’article par OpenAI, les lectures de ChatGPT sont 12 fois plus rapides.

OpenAI décrit trois phases sur Azure Cosmos DB : d’abord, s’en remettre aux limites propres à la base de données, ce qui a entraîné des problèmes de voisin bruyant et une baisse du débit lors du fractionnement des partitions ; ensuite, attribuer son propre conteneur à chaque nouveau cas d’usage, ce qui a fait de la planification des capacités une charge pour chaque équipe produit ; enfin, revenir à un conteneur mutualisé unique, avec limitation du débit pour les clés très sollicitées, niveaux de priorité des requêtes et un nouveau mode sans serveur développé par Azure pour répondre à ses besoins. OpenAI indique n’avoir connu aucun incident lié au provisionnement ou aux voisins bruyants depuis plusieurs mois.

OpenAI ajoute que son plus grand compte Cosmos DB stocke des dizaines de pétaoctets et traite plus de 20 millions de requêtes par seconde. L’entreprise revient aussi sur deux pannes survenues fin 2024 — une coupure de courant régionale et une avalanche de connexions lors du retour au fonctionnement normal — qui ont conduit à des tests conjoints avec l’équipe Azure. L’article aborde également la mise en cache à l’échelle mondiale et un proxy Rust destiné à réduire la surcharge. Tous les chiffres proviennent d’OpenAI.