OpenAI giải thích cách họ mở rộng Habitat, nền tảng lưu trữ của mình, trên Azure Cosmos DB

Trong phần thứ hai của loạt bài kỹ thuật, đăng ngày 23 tháng 10 năm 2026, OpenAI mô tả Habitat, nền tảng lưu trữ trực tuyến đứng sau ChatGPT, API và Codex. OpenAI cho biết Habitat phục vụ hơn 1 tỷ người dùng tại 40 khu vực và lưu trữ hơn 500 petabyte dữ liệu; theo phần tóm tắt bài viết của OpenAI, nền tảng này giúp ChatGPT đọc dữ liệu nhanh hơn 12×.

OpenAI mô tả ba giai đoạn sử dụng Azure Cosmos DB: dựa vào các giới hạn sẵn có của cơ sở dữ liệu, dẫn đến tình trạng tranh chấp tài nguyên giữa các khách hàng và thông lượng giảm khi các phân vùng được chia nhỏ; cấp cho mỗi trường hợp sử dụng mới một container riêng, khiến việc lập kế hoạch dung lượng trở thành gánh nặng cho từng nhóm sản phẩm; rồi quay lại dùng một container đa khách hàng dùng chung, với cơ chế điều tiết khi khóa bị quá tải, các cấp ưu tiên yêu cầu và một chế độ serverless mới do Azure xây dựng cho OpenAI. OpenAI cho biết trong những tháng qua họ không gặp sự cố cấp phát tài nguyên hay tranh chấp tài nguyên giữa các khách hàng.

OpenAI cũng cho biết tài khoản Cosmos DB lớn nhất của họ lưu trữ hàng chục petabyte và xử lý hơn 20M truy vấn mỗi giây; đồng thời kể lại hai lần gián đoạn dịch vụ vào cuối năm 2024 (mất điện trên diện rộng trong khu vực và tình trạng quá tải kết nối hàng loạt trong quá trình chuyển lại sau khi khôi phục), khiến họ cùng nhóm Azure tiến hành kiểm thử. Bài viết cũng đề cập đến bộ nhớ đệm toàn cầu và một proxy Rust nhằm giảm chi phí xử lý. Tất cả số liệu đều do OpenAI cung cấp.