Meta Công bố Muse Spark 1.3 Hỗ trợ Luồng Công việc Agentic và Lập trình
Meta đã báo cáo về việc phát hành Muse Spark 1.3, một mô hình AI được thiết kế cho các luồng công việc agentic chu kỳ dài và tạo mã lập trình, giúp giảm 25% lượng token cần thiết so với thế hệ trước. Cung cấp qua API, mô hình có giá 1,25 USD trên 1 triệu token đầu vào, 0,15 USD cho token đầu vào dạng bộ nhớ đệm và 4,25 USD trên 1 triệu token đầu ra. Bản phát hành này nổi bật xu hướng của ngành trong việc nâng cao độ tin cậy của các agent tự động, giảm chi phí token API và tối ưu hóa hiệu suất cấp hệ thống. Việc giảm tần suất gọi công cụ và cải thiện khả năng duy trì ngữ cảnh là yếu tố then chốt để triển khai các agent AI hiệu quả về chi phí trong các tác vụ kỹ thuật phần mềm phức tạp. Muse Spark 1.3 giúp giảm các vòng lặp mã không cần thiết và cắt giảm khoảng 20% số yêu cầu gọi công cụ (tool call) trong khi vẫn duy trì các ràng buộc phức tạp trong một luồng xử lý duy nhất. Ngoài ra, mô hình nâng cao khả năng nhận thức về giới hạn của bản thân, tự động đặt câu hỏi làm rõ khi gặp phải hướng dẫn mơ hồ từ người dùng.
## KIẾN THỨC NỀN
Gọi công cụ (tool calling) là một cơ chế cho phép mô hình LLM tương tác với các API, cơ sở dữ liệu và hàm bên ngoài để thực thi hành động thay vì chỉ tạo văn bản thuần túy. Trong khi đó, bộ nhớ đệm prompt (prompt caching) tối ưu hóa tốc độ xử lý và chi phí API bằng cách tái sử dụng các đại diện key-value (KV) đã tính toán trước đó của các đoạn prompt không thay đổi.