Mô hình AI quyết định 'Jev' của TypeSafe AI đạt 1 nghìn tỷ token mỗi ngày
TypeSafe AI đã ra mắt 'Jev', một mô hình quyết định phi sinh (non-generative) giúp phân loại dữ liệu đầu vào và chấm điểm các lựa chọn, đạt mức xử lý hơn 1 nghìn tỷ token mỗi ngày. Được thành lập bởi cựu nghiên cứu viên OpenAI Diogo Almeida, hướng đi của công ty đã thúc đẩy các ông lớn công nghệ như OpenAI, Databricks và Cloudflare nhanh chóng tung ra các công cụ tập trung vào ra quyết định tương tự. Jev đánh dấu sự chuyển dịch mới nổi, rời xa các mô hình hội thoại sinh tự do để hướng tới các công cụ quyết định có tính xác định, tốc độ cao và chi phí thấp được thiết kế riêng cho tự động hóa phần mềm. Sự đón nhận quy mô lớn từ sớm cho thấy nhu cầu doanh nghiệp rất mạnh mẽ đối với các thành phần AI có thể dự đoán được để nhúng an toàn vào các quy trình phần mềm tự động. Thay vì tạo văn bản theo phương pháp tự hồi quy, Jev dựa vào kỹ thuật gọi là 'học tăng cường cho các quyết định được hiệu chuẩn' (RLCD) để đưa ra xác suất, điểm số hoặc lựa chọn có cấu trúc. TypeSafe AI từng huy động được 40 triệu USD từ quỹ DCVC và được cho là đang đàm phán cho vòng gọi vốn mới với định giá vượt quá 10 tỷ USD.
## KIẾN THỨC NỀN
Các mô hình ngôn ngữ lớn (LLM) sinh nội dung tạo ra văn bản bằng cách dự đoán token tiếp theo, mang lại sự linh hoạt cao cho các giao diện hội thoại nhưng dễ gây ra hành vi bất ngờ hoặc khó lặp lại trong các ứng dụng backend. Nguồn ngược lại, các mô hình quyết định phi sinh đánh giá dữ liệu đầu vào dựa trên các tùy chọn định sẵn để thực hiện phân loại, chấm điểm và điều hướng quy trình nhanh chóng. Điều này giúp các mô hình quyết định phù hợp hơn nhiều cho tự động hóa phần mềm nhiều tầng, nơi đòi hỏi tính logic và có thể dự đoán được.