OpenAI tăng độ dài ngữ cảnh mặc định của GPT-6.1 Sol lên 500k
OpenAI đã tăng độ dài ngữ cảnh mặc định của mô hình GPT-6.1 Sol trong môi trường Codex và Work từ 272k lên 500k token. Ngoài ra, OpenAI xác nhận sẽ không tính thêm phí ngữ cảnh dài cho cửa sổ mở rộng này. Mức tăng khoảng 80% này giúp giảm đáng kể tần suất nén ngữ cảnh và hỗ trợ các nhà phát triển xử lý các tác vụ phức tạp đòi hỏi khối lượng lớn dữ liệu lịch sử. Người dùng được hưởng lợi từ khả năng xử lý ngữ cảnh dài tốt hơn mà không phát sinh thêm chi phí sử dụng thuê bao. Mặc dù 500k token hiện là mức tối ưu mặc định, người dùng vẫn có thể tự điều chỉnh độ dài ngữ cảnh thủ công lên mức giới hạn tối đa là 1M token. Bản cập nhật này áp dụng cụ thể cho các môi trường Codex và Work.
## KIẾN THỨC NỀN
GPT-6.1 Sol là một mô hình ngôn ngữ lớn được phát hành bởi OpenAI. Độ dài ngữ cảnh trong các LLM đề cập đến số lượng token tối đa — từ hoặc tiểu từ — mà mô hình có thể xử lý và lưu giữ trong cửa sổ chú ý trực tiếp của nó trong một lần tương tác duy nhất.