Obsessive-1.7B: Subagent Tìm Kiếm Web 1.1 GB Dành Cho LLM Chạy Cục Bộ
Lập trình viên MuzafferMahi đã phát hành Obsessive-1.7B, một subagent được tinh chỉnh dung lượng 1.1 GB dựa trên nền tảng LFM3-1.7B, chuyên thực hiện một lần tìm kiếm web duy nhất, trích xuất các dữ kiện chính xác kèm theo trích dẫn nguyên văn và xử lý đáng tin cậy các trường hợp không có kết quả. Mô hình đạt 94% độ chính xác trong việc nhận diện các câu hỏi không thể trả lời trên bộ dữ liệu kiểm định SimpleQA, cải thiện vượt trội so với mức 0% của mô hình gốc. Bản phát hành này thể hiện một cách tiếp cận thực tế và hiệu quả cao để tinh chỉnh các ngôn ngữ mô hình nhỏ cho các vai trò sử dụng công cụ cực kỳ cụ thể thay vì trò chuyện tổng quát. Bằng cách hoạt động như một subagent chuyên biệt dưới quyền một mô hình điều phối lớn hơn, nó giúp giảm thiểu hiện tượng ảo giác và tránh lãng phí lượt gọi cho các truy vấn không có đáp án. Được huấn luyện bằng phương pháp LoRA rank 16 trên khoảng 9.000 cuộc hội thoại gọi công cụ, Obsessive-1.7B bị giới hạn ở các cuộc hội thoại đơn lượt và chỉ hỗ trợ tiếng Anh. Các hạn chế được ghi nhận bao gồm việc thỉnh thoảng báo cáo các tuyên bố thành sự thật tuyệt đối và đôi khi trích dẫn nhầm các dữ kiện xung quanh.
## KIẾN THỨC NỀN
Mô hình ngôn ngữ nhỏ (Small Language Model - SLM) là các mô hình AI có kích thước nhỏ gọn, có thể chạy hiệu quả trên phần cứng phổ thông như máy tính xách tay hoặc thiết bị biên. Việc sử dụng công cụ (tool use hay function calling) cho phép LLM yêu cầu các công cụ bên ngoài như tìm kiếm web, sau đó xử lý dữ liệu trả về để tăng cường năng lực của mình.