TypeSafe AI Ra Mắt Jev, Mô Hình Quyết Định 'System One' Nhanh và Rẻ Hơn Nhiều Lần
TypeSafe AI đã ra mắt Jev, mô hình AI 'System One' chủ lực được thiết kế chuyên biệt cho các tác vụ phân loại, định tuyến, chấm điểm và ra quyết định nhanh. Jev hoạt động nhanh hơn 100 lần và rẻ hơn 200 lần so với các LLM hàng đầu kích thước nhỏ bằng cách trả về các quyết định có kiểu dữ liệu kèm xác suất cho phần mềm thay vì tạo ra văn bản. Bằng cách chuyển giao các tác vụ phân loại và định tuyến thường nhật khỏi các mô hình ngôn ngữ sinh nội dung đắt đỏ, Jev giúp các nhà phát triển giảm đáng kể độ trễ và chi phí API trong các luồng xử lý AI phức tạp. Sự phân chia kiến trúc này cho phép các LLM lớn tập trung hoàn toàn vào việc tạo văn bản nặng, trong khi Jev đóng vai trò là một lớp điều khiển siêu nhanh. Khác với các LLM truyền thống xuất ra văn bản theo từng token, Jev đánh giá trạng thái hệ thống và trả về kết quả dạng dữ liệu cấu trúc có kiểu kèm xác suất để mã nguồn phần mềm xử lý trực tiếp. Điều này biến Jev thành một lớp ra quyết định trung gian nằm trong hạ tầng sản xuất thay vì là một chatbot hay công cụ tạo văn bản độc lập.
## KIẾN THỨC NỀN
Khái niệm 'System 1' trong AI bắt nguồn từ tâm lý học nhận thức, ám chỉ các quá trình ra quyết định nhanh chóng, mang tính bản năng và tự động. Các hệ thống AI hiện đại thường lãng phí tài nguyên tính toán khi gọi các LLM sinh nội dung lớn cho những tác vụ định tuyến logic hoặc phân loại ý định đơn giản, gây ra nghẽn hiệu năng.