Anthropic Cập Nhật Claude Managed Agents Với Tính Năng Giới Hạn Ngân Sách Phiên
Anthropic đã phát hành bốn bản cập nhật cho Claude Managed Agents, giới thiệu tính năng giới hạn ngân sách phiên giúp các nhà phát triển kiểm soát và dự đoán chi phí API. Khi một phiên đạt đến giới hạn ngân sách đã thiết lập, nó sẽ tạm dừng và kích hoạt sự kiện `budget_reached`, cho phép nhà phát triển tăng ngân sách để tiếp tục. Chi phí API không thể dự đoán trước là một thách thức lớn trong việc phát triển ứng dụng LLM, đặc biệt là đối với các tác nhân tự trị chạy các tác vụ dài hạn hoặc đệ quy. Bản cập nhật này cung cấp cho các nhà phát triển khả năng kiểm soát tài chính chi tiết, ngăn ngừa chi phí tăng vọt ngoài tầm kiểm soát trong quá trình thực thi tác nhân. Cơ chế kiểm soát ngân sách hoạt động ở cấp độ phiên, tạm dừng thực thi thay vì chấm dứt hoàn toàn, giúp bảo toàn trạng thái của tác nhân. Các nhà phát triển có thể tiếp tục phiên bị tạm dừng một cách liền mạch bằng cách tăng giới hạn ngân sách.
## KIẾN THỨC NỀN
Claude Managed Agents là một dịch vụ trên Nền tảng Claude được thiết kế để xây dựng và triển khai các tác nhân AI ở quy mô lớn bằng cơ sở hạ tầng được quản lý. Các tác nhân AI thường chạy tự động trong thời gian dài để hoàn thành các tác vụ phức tạp, điều này có thể dẫn đến mức tiêu thụ API cao và khó dự đoán. Việc quản lý các khía cạnh vận hành này thuộc về LLMOps, lĩnh vực tập trung vào vòng đời, triển khai và giám sát các mô hình ngôn ngữ lớn.