Opus 5 của Anthropic tập trung vào hiệu quả token thay vì đột phá năng lực
Mô hình flagship sắp tới của Anthropic là Opus 5 được cho là sẽ tập trung vào hiệu quả token và giảm chi phí thay vì mang lại một bước nhảy vọt lớn về năng lực thô. Sự chuyển dịch này phản ánh xu hướng rộng lớn hơn của ngành hướng tới tối ưu hóa và tính khả thi thương mại, khi các nhà phát triển nhận ra rằng các mô hình rẻ hơn, hiệu quả cao thường là đủ cho hầu hết các tác vụ của doanh nghiệp. Bằng cách cải thiện hiệu quả token, mô hình có thể xử lý nhiều thông tin hơn với ít tài nguyên tính toán hơn, điều này trực tiếp giúp thời gian phản hồi nhanh hơn và chi phí API thấp hơn.
## KIẾN THỨC NỀN
Các mô hình ngôn ngữ lớn xử lý văn bản bằng cách chia nhỏ thành các đơn vị gọi là token, có thể là từ, ký tự hoặc dấu câu. Vì chi phí tính toán AI và tốc độ phản hồi liên quan trực tiếp đến số lượng token được xử lý, việc tối ưu hóa sử dụng token là rất quan trọng để mở rộng quy mô triển khai LLM.