OpenAI chi tiết cách mở rộng lưu trữ Habitat cho ChatGPT với Azure Cosmos DB
OpenAI vừa công bố bài phân tích kỹ thuật chi tiết về cách họ mở rộng nền tảng lưu trữ Habitat bằng kiến trúc đa thuê dụng (multi-tenancy), bộ nhớ đệm toàn cầu và Azure Cosmos DB. Kiến trúc này đã giúp tăng tốc độ đọc lên gấp 12 lần, giảm độ trễ đọc toàn cầu từ 120ms xuống còn 10ms cho người dùng ChatGPT. Cập nhật này cung cấp những góc nhìn kiến trúc thực tế vô cùng giá trị cho các kỹ sư phải đối mặt với quy mô cực lớn, lưu trữ web và phân phối toàn cầu. Việc phục vụ hơn 1 tỷ người dùng trên gần 40 khu vực đòi hỏi những chiến lược cơ sở dữ liệu mạnh mẽ có thể xử lý hàng chục triệu truy vấn mỗi giây. Habitat hiện xử lý hơn 70 triệu yêu cầu mỗi giây và quản lý dung lượng lưu trữ lên tới 500 petabyte sử dụng Azure Cosmos DB. Hệ thống dựa vào tính năng đa thuê dụng đáng tin cậy và bộ nhớ đệm toàn cầu để duy trì độ sẵn sàng cao cùng thời gian phản hồi nhanh chóng.
## KIẾN THỨC NỀN
Azure Cosmos DB là một dịch vụ cơ sở dữ liệu đa mô hình, phân phối toàn cầu do Microsoft cung cấp, được thiết kế để đảm bảo độ sẵn sàng cao và khả năng truy cập độ trễ thấp. Habitat là nền tảng lưu trữ trực tuyến tùy chỉnh của OpenAI, được xây dựng để đảm bảo tất cả các sản phẩm của họ có thể truy cập thông tin cần thiết một cách nhanh chóng và đáng tin cậy.