OpenAI wyjaśnia, jak skalowało Habitat, swoją platformę do przechowywania danych, na Azure Cosmos DB

W drugiej części serii poświęconej inżynierii, opublikowanej 23 października 2026 r., OpenAI opisuje Habitat — internetową platformę do przechowywania danych, która obsługuje ChatGPT, API i Codex. OpenAI podaje, że Habitat obsługuje ponad 1 mld użytkowników w 40 regionach i przechowuje ponad 500 petabajtów danych, a z podsumowania wpisu wynika, że odczyty w ChatGPT są 12× szybsze.

OpenAI opisuje trzy etapy korzystania z Azure Cosmos DB: poleganie na limitach samej bazy danych, co prowadziło do problemów z sąsiadami zużywającymi nieproporcjonalnie dużo zasobów i spadku przepustowości przy podziale partycji; przydzielanie każdemu nowemu zastosowaniu osobnego kontenera, przez co planowanie pojemności stało się obciążeniem dla każdego zespołu produktowego; oraz powrót do jednego współdzielonego kontenera wielodostępnego z ograniczaniem ruchu dla gorących kluczy, poziomami priorytetu żądań i nowym trybem bezserwerowym, stworzonym dla OpenAI przez Azure. OpenAI twierdzi, że w kolejnych miesiącach nie doszło do żadnych incydentów związanych z przydzielaniem zasobów ani problemami z sąsiadami.

OpenAI podaje również, że jego największe konto Cosmos DB przechowuje dziesiątki petabajtów danych i obsługuje ponad 20 mln zapytań na sekundę. Opisuje też dwie awarie z końca 2024 r. (regionalną przerwę w dostawie prądu i lawinowy wzrost liczby połączeń podczas przełączania powrotnego), które doprowadziły do wspólnych testów z zespołem Azure. Wpis omawia również globalne buforowanie oraz proxy w Rust, które ma ograniczać narzut. Wszystkie liczby pochodzą od OpenAI.