Neon và Castform nguồn mở hóa mô hình 4B tối ưu chi phí cho tìm kiếm tài liệu
Neon và Castform đã phát hành nguồn mở một mô hình tham số 4B được huấn luyện thông qua học tăng cường, chuyên phục vụ tác vụ tìm kiếm tài liệu và định tuyến. Mô hình này đạt độ chính xác tương đương hoặc vượt trội hơn GPT-5.6 Sol của OpenAI trong các tác vụ tìm kiếm, trong khi chi phí suy luận chỉ bằng khoảng 1/100. Tìm kiếm dạng tác nhân (agentic search) rất hiệu quả cho các truy vấn phức tạp nhưng thường chậm và tốn kém khi phụ thuộc vào các LLM lớn. Việc phát hành này chứng minh rằng các mô hình nhỏ, chuyên biệt được huấn luyện bằng học tăng cường có thể thay thế các mô hình thương mại khổng lồ cho các quy trình tác nhân cụ thể, giúp giảm đáng kể rào cản chi phí khi triển khai tác nhân AI. Trong thử nghiệm của Neon, mô hình 4B đạt điểm đánh giá trung bình là 1,447, vượt trội hơn GPT-5.6 Sol (1,369) và GPT-5.4 (1,377), với chi phí cho mỗi lần suy luận là 0,000929 USD so với 0,087338 USD của GPT-5.6 Sol. Quy trình huấn luyện đánh giá mô hình dựa trên khả năng xác định đúng tài liệu, trích dẫn đúng đoạn văn và đưa ra câu trả lời cuối cùng chính xác.
## KIẾN THỨC NỀN
Tìm kiếm tài liệu truyền thống thường dựa trên tìm kiếm nhúng (embedding search), chuyển đổi văn bản thành các vectơ số để tìm kiếm sự tương đồng về ngữ nghĩa. Ngược lại, tìm kiếm dạng tác nhân (agentic search) cho phép mô hình AI tự động chia nhỏ các truy vấn phức tạp, thực hiện nhiều bước tìm kiếm và lặp lại dựa trên kết quả trung gian. Neon là một cơ sở dữ liệu PostgreSQL không máy chủ (serverless) hỗ trợ phân nhánh cơ sở dữ liệu (database branching), một tính năng cho phép các nhà phát triển tạo ra các bản sao cơ sở dữ liệu độc lập để phát triển và thử nghiệm.