Cursor ra mắt Cursor Router giúp tối ưu hóa lựa chọn LLM và giảm chi phí
Cursor đã ra mắt "Cursor Router", một hệ thống định tuyến mô hình thông minh được thiết kế để tự động chọn mô hình ngôn ngữ lớn (LLM) tối ưu cho từng tác vụ cụ thể. Tính năng này hiện đã có sẵn trên mọi nền tảng dành cho các gói Teams và Enterprise. Hệ thống này cho phép các đội ngũ phát triển đạt được hiệu quả hỗ trợ lập trình chất lượng cao trong khi giảm tới 60% chi phí API LLM. Nó giải quyết thách thức chung của toàn ngành trong việc cân bằng giữa hiệu suất cao và chi phí đắt đỏ của các mô hình AI tiên tiến. Quản trị viên có thể cấu hình bộ định tuyến cho từng nhóm, cho phép hoặc chặn các mô hình cụ thể, thiết lập mặc định và tắt một số chế độ tối ưu hóa. Thử nghiệm trong giai đoạn tiếp cận sớm cho thấy chất lượng không hề giảm so với việc chuyển hướng tất cả yêu cầu đến Claude 3 Opus.
## KIẾN THỨC NỀN
Cursor là một trình soạn thảo mã nguồn tích hợp AI được thiết kế để giúp các lập trình viên viết và đánh giá mã nguồn bằng các tác nhân AI. Định tuyến LLM (LLM routing) là một kỹ thuật phân tích độ khó của câu lệnh để chuyển hướng tác vụ đến tầng mô hình tối ưu nhất về chi phí, sử dụng các mô hình rẻ hơn cho tác vụ đơn giản và dành các mô hình tiên tiến đắt tiền cho tác vụ phức tạp.