Anthropic ra mắt Claude Fable 5.1 với mức giảm 75% giá bộ nhớ đệm prompt
Anthropic đã phát hành Claude Fable/Mythos 5.1, thiết lập các khả năng điểm chuẩn (benchmark) đạt đỉnh cao mới (SOTA). Bản cập nhật mang đến mức giảm giá 75% cho bộ nhớ đệm prompt cùng với mức tăng 70% dung lượng token đầu ra tối đa. Việc giảm mạnh chi phí bộ nhớ đệm trong khi mở rộng độ dài đầu ra giúp việc thực thi các tác vụ ngữ cảnh dài trở nên tiết kiệm hơn đáng kể cho các nhà phát triển. Động thái này thúc đẩy ngành AI chuyển hướng sang mức giá suy luận thấp hơn và tận dụng cửa sổ ngữ cảnh lớn hơn trong thực tế. Mức giảm giá 75% cho bộ nhớ đệm prompt cho phép nhà phát triển tái sử dụng các tiền tố prompt dài như hướng dẫn hệ thống hoặc tài liệu tham khảo mà không cần trả toàn bộ chi phí tính toán cho các yêu cầu tiếp theo. Đồng thời, việc tăng 70% token đầu ra cho phép mô hình tạo ra các phản hồi liên tục dài hơn như các bộ mã nguồn nhiều tệp hoặc các báo cáo chi tiết.
## KIẾN THỨC NỀN
Bộ nhớ đệm prompt (prompt caching) là một kỹ thuật lưu trữ ngữ cảnh tĩnh—như các tài liệu hướng dẫn dài—để các mô hình ngôn ngữ có thể bỏ qua việc xử lý lại dữ liệu tiền tố dư thừa qua nhiều cuộc gọi API. Claude là dòng mô hình ngôn ngữ lớn của Anthropic được sử dụng rộng rãi cho lập trình, lập luận phân tích và tổng hợp tài liệu phức tạp.