So sánh Tool Calling và Thực thi Mã làm Khái niệm Hành động cho AI Agent
Machine Learning Mastery đã xuất bản một bài đánh giá kỹ thuật thực tế so sánh giữa gọi công cụ (tool calling) và thực thi mã (code execution) cho các AI agent. Bài viết sử dụng các ví dụ triển khai API thực tế để giúp các nhà phát triển lựa chọn khái niệm hành động phù hợp cho kiến trúc agent của mình. Lựa chọn khái niệm hành động cơ bản phù hợp là quyết định cốt lõi khi xây dựng các ứng dụng tích hợp LLM và hệ thống tự hành. Trong khi tool calling cung cấp độ an toàn có cấu trúc cho các thao tác xác định, thực thi mã động mang lại khả năng biểu đạt cao hơn nhiều cho các tác vụ xử lý dữ liệu phức tạp và quy trình làm việc nhiều bước. Tool calling dựa trên việc định nghĩa schema có cấu trúc (như JSON Schema), nơi LLM đưa ra yêu cầu và ứng dụng lưu trữ sẽ đảm nhận việc gọi hàm. Ngược lại, thực thi mã cho phép LLM tự viết các đoạn mã động (như Python) để chạy trực tiếp bên trong một môi trường sandbox được cô lập.
## KIẾN THỨC NỀN
Các AI agent tương tác với dịch vụ bên ngoài và cơ sở dữ liệu thông qua các khái niệm hành động nhằm chuyển đổi đầu ra của mô hình thành hành động cụ thể. Trong mô hình gọi hàm hoặc công cụ truyền thống, môi trường runtime của agent duy trì sự kiểm soát chặt chẽ bằng cách chạy mã được viết sẵn dựa trên tham số mô hình. Ngược lại, thực thi mã trao cho agent khả năng tự viết và chạy logic tùy chỉnh ngay lập tức, chuyển trách nhiệm thực thi sang một môi trường sandbox.