Nvidia Phát Hành Tiện Ích SoL-Pi Giúp Tối Ưu Hiệu Quả Token Cho Pi Agent

Nvidia đã phát hành SoL-Pi, một tiện ích mở rộng nguồn mở cho khung đại lý (agent harness) Pi nhằm giảm mức tiêu thụ token và tình trạng quá tải ngữ cảnh trong các tác vụ kéo dài. Được phát triển thông qua các vòng lặp tối ưu hóa tự động (auto-research), SoL-Pi giới thiệu bốn cơ chế mô-đun giúp loại bỏ các lượt tương tác dư thừa và việc đọc lại các tệp nhật ký quá lớn. Các đại lý lập trình chạy trong thời gian dài thường lãng phí token API đắt đỏ và năng lực tính toán vào các lệnh xác thực lặp lại cũng như việc đọc lại nhật ký. SoL-Pi cho thấy các vòng lặp tối ưu hóa tự động có thể giúp hạ tầng đại lý hoạt động hiệu quả hơn đáng kể mà không cần sửa đổi mã nguồn gốc hay làm giảm độ chính xác của công việc. SoL-Pi bao gồm bốn cơ chế tùy chọn: Action Fusion, ObservationPack, Evidence-Preserving Reducer và Online Context Compact. Tiện ích này tích hợp hoàn toàn thông qua các API mở rộng công khai của Pi mà không sửa đổi mã nguồn gốc, giữ nguyên quyền kiểm soát mô hình và môi trường thực thi cho Pi.