Xác định LLM cục bộ và chiến lược đặt câu hỏi làm rõ khi gặp yêu cầu mơ hồ
Một bài đăng thảo luận trên r/LocalLLaMA đã đặt câu hỏi về các mô hình LLM mã nguồn mở, system prompt hoặc agent harness nào có khả năng nhận biết chỉ dẫn mơ hồ và chủ động dừng lại để hỏi người dùng thay vì tiếp tục dựa trên giả định sai. Thảo luận này nhấn mạnh một điểm mù lớn trong các bộ kiểm thử LLM chuẩn hiện nay, vốn tập trung vào tốc độ lập trình và sử dụng công cụ nhưng bỏ qua khả năng xử lý sự mơ hồ. Việc mô hình biết dừng lại để hỏi làm rõ giúp tiết kiệm thời gian và tài nguyên tính toán bằng cách tránh các chuỗi hành động tự động sai lầm. Câu hỏi đặt ra liệu khả năng dừng lại để hỏi làm rõ phụ thuộc nhiều hơn vào quá trình huấn luyện mô hình gốc, cách viết system prompt hay thiết kế kiến trúc của agent harness điều khiển vòng lặp thực thi. Các quy trình agentic hiện tại thường gặp rủi ro do mô hình quá tự tin, tự thực hiện nhiều bước gọi công cụ dựa trên các câu lệnh mơ hồ thay vì xin phản hồi từ con người.
## KIẾN THỨC NỀN
Agent harness là hạ tầng phần mềm bao bọc xung quanh giúp quản lý trạng thái, vòng lặp thực thi, tích hợp công cụ và bối cảnh hệ thống của LLM. Mặc dù các bộ benchmark tiêu chuẩn đo lường các khả năng như độ dài ngữ cảnh, độ chính xác khi lập trình và khả năng suy luận, việc triển khai thực tế lại thường xuyên gặp phải chỉ dẫn thiếu sót từ người dùng, nơi việc đặt câu hỏi làm rõ là rất quan trọng.