TypeSafe AI Ra Mắt Jev, Mô Hình Quyết Định System One Cho Đầu Ra Xác Suất
TypeSafe AI đã giới thiệu Jev, mô hình AI "System One" hàng đầu được thiết kế để nhận đầu vào là trạng thái văn bản phi cấu trúc và trả về trực tiếp các quyết định xác suất có kiểu dữ liệu thay vì sinh ra các token văn bản. Mô hình đánh giá nhiều câu hỏi song song và chỉ tính phí $0,042 cho mỗi triệu token đầu vào, khiến phần đầu ra hoàn toàn miễn phí. Bằng cách loại bỏ quá trình sinh token văn bản tự hồi quy, Jev đạt tốc độ xử lý cực nhanh (70–500 ms) và giảm đáng kể chi phí cho các tác vụ phân loại như phát hiện thư rác và xếp hạng lại tìm kiếm. Tuy nhiên, vì chỉ xuất ra điểm số mà không có giải thích bằng văn bản, mô hình đẩy AI trở lại cơ chế hộp đen mờ đục, khiến các định kiến ẩn trở nên khó phát hiện hơn. Jev hỗ trợ ba cấu trúc câu hỏi có kiểu dữ liệu: Noul (điểm tin cậy Có/Không theo phân phối Bernoulli), Choice (lựa chọn danh mục kèm phân phối xác suất) và Score (đánh giá trên dải điểm số). Người dùng cung cấp một đối tượng trạng thái dữ liệu cùng nhiều câu hỏi có kiểu dữ liệu, và Jev sẽ đánh giá chúng song song trong cửa sổ ngữ cảnh.
## KIẾN THỨC NỀN
Các mô hình ngôn ngữ lớn (LLM) tiêu chuẩn sinh văn bản theo từng token thông qua quá trình tự hồi quy, điều này có thể chậm và tốn kém cho các đường ống phần mềm có cấu trúc. Mượn khái niệm từ tâm lý học nhận thức, "System 1" đại diện cho tư duy nhanh và tự động, trong khi "System 2" là lý luận chậm và suy xét; TypeSafe AI áp dụng khái niệm này để tạo ra các mô hình tập trung vào quyết định chỉ qua một lượt xử lý duy nhất.