TypeSafe AI ra mắt Jev, mô hình AI System One không tạo văn bản
TypeSafe AI, công ty do cựu nghiên cứu viên OpenAI Diogo Almeida thành lập, đã chính thức ra mắt sau khi huy động được 40 triệu USD vốn hạt giống và giới thiệu Jev — một mô hình AI 'System One' chuyên đưa ra quyết định dạng cấu trúc nhanh chóng mà không tạo văn bản ngôn ngữ tự nhiên. Jev mở ra một hướng đi mới tách khỏi các mô hình ngôn ngữ lớn (LLM) tự hồi quy truyền thống cho các tác vụ tự động hóa cấu trúc, hứa hẹn tốc độ xử lý nhanh hơn 20 đến 200 lần và chi phí vận hành thấp hơn 40 đến 400 lần. Tiếp cận này có thể làm giảm đáng kể chi phí hạ tầng cho các quy trình phần mềm đòi hỏi ra quyết định lặp đi lặp lại với tần suất cao thay vì trò chuyện hội thoại. Jev trả về ba dạng đầu ra cấu trúc cố định gồm Choice (lựa chọn từ tối đa 255 tùy chọn), Score (đánh giá điểm số) và Noul (xác suất Đúng/Sai), đồng thời được huấn luyện bằng phương pháp Reinforcement Learning for Calibrated Decisions (RLCD). Vì loại bỏ hoàn toàn quá trình sinh từ tự hồi quy, các token đầu ra của Jev thực chất là miễn phí, trong khi token đầu vào có giá 0,042 USD cho mỗi triệu token.
## KIẾN THỨC NỀN
Khái niệm tư duy 'System 1' xuất phát từ tâm lý học hành vi, đại diện cho các quyết định nhanh chóng, mang tính bản năng và tự động, đối lập với quá trình suy luận chậm rãi của 'System 2'. Các mô hình ngôn ngữ lớn (LLM) truyền thống hoạt động bằng cách dự đoán từng token theo dạng tự hồi quy để tạo văn bản, gây tốn kém tài nguyên và độ trễ cao cho các tác vụ ra quyết định đơn giản. Nhà sáng lập Diogo Almeida trước đây từng đóng góp vào nghiên cứu Reinforcement Learning from Human Feedback (RLHF) tại OpenAI, kỹ thuật cốt lõi giúp tạo ra ChatGPT.