onPanda: Công cụ tương tác để điều hướng LLM và kiểm tra AI Agent ở mức Token
Nhà phát triển Fancy_Fanqi77 đã phát hành onPanda, một công cụ mã nguồn mở được thiết kế để kiểm tra ở mức token, chỉnh sửa đầu ra, rẽ nhánh prompt và điều hướng các mô hình LLM cũng như AI agent. Công cụ này cho phép người dùng thay đổi token ngay trong quá trình sinh văn bản, theo dõi chuỗi suy luận, các lời gọi công cụ và tương tác với mô hình qua cấu trúc dạng cây. Việc kiểm lỗi các AI agent phức tạp và tinh chỉnh hành vi prompt thường đòi hỏi khả năng quan sát chi tiết từng bước ra quyết định của mô hình. Bằng cách cung cấp khả năng can thiệp ở mức token, hỗ trợ đa thức và tích hợp các agent harness, onPanda giúp đơn giản hóa quy trình kiểm tra mô hình, gán nhãn dữ liệu và căn chỉnh agent cho các nhà phát triển. onPanda tích hợp sẵn một browser agent chạy trực tiếp trên trình duyệt không cần cài đặt để thực thi JavaScript, quản lý tệp và duy trì bộ nhớ dài hạn. Công cụ này cũng hỗ trợ kết nối với các máy chủ MCP (Model Context Protocol) và các agent harness bên ngoài như Claude Code, Codex hay OpenCode để so sánh tập công cụ và cơ chế bộ nhớ.
## KIẾN THỨC NỀN
Các mô hình ngôn ngữ lớn (LLM) tạo ra văn bản bằng cách dự đoán từng token (các mẩu ký tự hoặc từ nhỏ) tại một thời điểm. Agent harness là cấu trúc phần mềm bao quanh cung cấp các vòng lặp thực thi, prompt hệ thống và công cụ để LLM có thể thực hiện hành động. Ngoài ra, Giao thức Ngữ cảnh Mô hình (MCP) là một tiêu chuẩn mở giúp chuẩn hóa cách ứng dụng AI kết nối với các công cụ và nguồn dữ liệu bên ngoài.