OpenAI, Azure Cosmos DB üzerinde depolama platformu Habitat’ı nasıl ölçeklendirdiğini açıklıyor

23 Ekim 2026 tarihli mühendislik serisinin ikinci bölümünde OpenAI, ChatGPT, API ve Codex’in arkasındaki çevrimiçi depolama platformu Habitat’ı anlatıyor. OpenAI, Habitat’ın 40 bölgede 1 milyardan fazla kullanıcıya hizmet verdiğini ve 500 petabayttan fazla veri tuttuğunu söylüyor; yazı özetinde ChatGPT için 12 kat daha hızlı okuma performansı elde edildiği belirtiliyor.

OpenAI, Azure Cosmos DB’de üç aşamayı anlatıyor: veritabanının kendi sınırlarına güvenmek; bu yaklaşımın gürültülü komşulara ve bölümler ayrıldıkça düşen aktarım hızına yol açması; her yeni kullanım alanına ayrı bir container vermek; bunun da kapasite planlamasını her ürün ekibi için bir yüke dönüştürmesi; ve sıcak anahtar kısıtlaması, istek önceliği katmanları ve Azure’ın bu kullanım için geliştirdiği yeni bir sunucusuz modla tek bir paylaşımlı, çok kiracılı container’a geri dönmek. OpenAI, bu geçişten bu yana geçen aylarda kaynak sağlama veya gürültülü komşu kaynaklı herhangi bir sorun yaşamadığını söylüyor.

OpenAI ayrıca en büyük Cosmos DB hesabının onlarca petabayt veri depoladığını ve saniyede 20 milyondan fazla sorguya hizmet verdiğini söylüyor. 2024’ün sonlarında yaşanan ve Azure ekibiyle ortak testlere yol açan iki kesintiyi de aktarıyor: bölgesel elektrik kesintisi ve geri dönüş sırasında oluşan bağlantı yığılması. Yazıda küresel önbelleğe alma ve ek yükü azaltmak için geliştirilen bir Rust proxy’si de ele alınıyor. Tüm rakamlar OpenAI’ın kendi verileridir.