OpenAI explica cómo escaló Habitat, su plataforma de almacenamiento, en Azure Cosmos DB

En la segunda parte de una serie de ingeniería, fechada el 23 de octubre de 2026, OpenAI describe Habitat, la plataforma de almacenamiento en línea que está detrás de ChatGPT, la API y Codex. OpenAI afirma que Habitat da servicio a más de 1.000 millones de usuarios en 40 regiones y almacena más de 500 petabytes de datos; además, su resumen de la publicación asegura que las lecturas de ChatGPT son 12× más rápidas.

OpenAI describe tres fases en Azure Cosmos DB: depender de los límites propios de la base de datos, lo que provocó contención entre usuarios y una reducción del rendimiento a medida que se dividían las particiones; asignar a cada nuevo caso de uso su propio contenedor, lo que convirtió la planificación de capacidad en una carga para cada equipo de producto; y volver a un único contenedor multiinquilino compartido, con limitación del tráfico por claves calientes, niveles de prioridad de solicitudes y un nuevo modo sin servidor que Azure desarrolló para OpenAI. OpenAI afirma que en los meses transcurridos no ha habido incidentes de aprovisionamiento ni de contención entre usuarios.

OpenAI también afirma que su cuenta más grande de Cosmos DB almacena decenas de petabytes y procesa más de 20 millones de consultas por segundo, y relata dos interrupciones ocurridas a finales de 2024 (un corte de energía regional y una avalancha de conexiones durante la conmutación de vuelta) que dieron lugar a pruebas conjuntas con el equipo de Azure. La publicación también aborda el almacenamiento en caché global y un proxy en Rust para reducir la sobrecarga. Todas las cifras son de OpenAI.