OpenAI đặt lại hạn mức Codex và sửa lỗi tiêu thụ dung lượng nhanh
OpenAI đang đặt lại hạn mức sử dụng cho tất cả người đăng ký Codex và triển khai các bản sửa lỗi cho các lỗi gây tiêu hao hạn mức nhanh bất thường. Các sự cố này xuất phát từ việc nén ngữ cảnh (context compaction) trong các phiên làm việc có hình ảnh, mức sử dụng cao ở phân vị P95 của Lịch sử Máy tính (Computer History), và tính năng tạo tiêu đề cuộc trò chuyện. Bản cập nhật bảo trì này giải quyết trực tiếp các khiếu nại của người dùng về việc cạn kiệt hạn mức không hợp lý, đảm bảo người đăng ký nhận được đúng giá trị họ đã trả. Nó cũng làm nổi bật các thách thức kỹ thuật trong việc quản lý cửa sổ ngữ cảnh và các tác vụ nền một cách hiệu quả trong các ứng dụng mô hình ngôn ngữ lớn. Việc đặt lại hạn mức dự kiến diễn ra vào khoảng 14:00 giờ PT ngày mai, và OpenAI cũng đã xác định được một phương pháp tối ưu hóa độc lập để cải thiện hiệu suất, sẽ được phát triển vào tuần tới. Các lỗi này ảnh hưởng cụ thể đến các phiên làm việc dài có chứa hình ảnh yêu cầu nén ngữ cảnh nhiều lần và các phân vị sử dụng cao.
## KIẾN THỨC NỀN
Trong các Mô hình Ngôn ngữ Lớn (LLM), "nén ngữ cảnh" (context compaction) là một kỹ thuật được sử dụng để tóm tắt hoặc cắt tỉa lịch sử trò chuyện nhằm vừa với giới hạn cửa sổ ngữ cảnh của mô hình. "Phân vị P95" (P95 percentile) là một chỉ số thống kê cho biết 95% điểm dữ liệu nằm dưới giá trị này, nghĩa là lỗi này đã ảnh hưởng nặng nề đến nhóm 5% người dùng có mức sử dụng cao nhất trong lịch sử máy tính của họ.