Đánh giá thực tế so sánh GLM-5.2 và Ling-3.0-Flash trong quy trình agent
Một lập trình viên đã chia sẻ trải nghiệm thực tế khi so sánh GLM-5.2 của Z.ai và Ling-3.0-Flash của Ant Group trong vai trò thực thi tác vụ (executor) cho agent, nhận thấy điểm benchmark không phản ánh đúng hiệu năng thực tế. Lập trình viên này chỉ ra rằng GLM-5.2 "thông minh" hơn sẽ tối ưu cho việc lập kế hoạch linh hoạt, trong khi Ling-3.0-Flash giá rẻ lại vượt trội ở việc thực thi công cụ nghiêm ngặt theo đúng schema. Điều này làm nổi bật một thách thức kỹ thuật thực tế trong việc định tuyến LLM (LLM routing), nơi các mô hình suy luận mạnh mẽ đôi khi làm phức tạp hóa các tác vụ cơ học do cố gắng "suy nghĩ quá nhiều". Nó gợi ý rằng các nhà phát triển có thể tối ưu hóa quy trình agent và giảm chi phí bằng cách định tuyến các tác vụ cấu trúc nghiêm ngặt đến các mô hình nhỏ hơn hoặc dựa trên kiến trúc MoE. Ling-3.0-Flash là mô hình Mixture-of-Experts (MoE) với tổng cộng 124 tỷ tham số nhưng chỉ có 5,1 tỷ tham số hoạt động, giúp nó chạy nhanh và tiết kiệm chi phí. Trong khi GLM-5.2 thường cố gắng tái cấu trúc (refactor) mã nguồn để sửa lỗi, Ling-3.0-Flash tuân thủ nghiêm ngặt schema của công cụ và sửa lỗi trực tiếp mà không đi chệch khỏi kế hoạch ban đầu.
## KIẾN THỨC NỀN
Trong kiến trúc agent AI, mô hình "planner" (lập kế hoạch) phác thảo các bước để giải quyết vấn đề, trong khi mô hình "executor" (thực thi) thực hiện các bước cụ thể đó bằng cách sử dụng công cụ hoặc mã nguồn. Mixture of Experts (MoE) là một kiến trúc LLM định tuyến dữ liệu đầu vào đến các mạng con chuyên biệt ("experts"), cho phép mô hình sở hữu lượng tham số khổng lồ nhưng vẫn giữ chi phí tính toán thực tế ở mức thấp.