Phát hành Von: Mô hình System One mã nguồn mở 395M thay thế TypeSafe JEV

Nhà phát triển wfzyx đã phát hành Von, một mô hình "System One" mã nguồn mở 395 triệu tham số được thiết kế để thay thế trực tiếp mô hình JEV thương mại của TypeSafe. Được phát hành trên GitHub và Hugging Face, Von vượt trội hơn JEV trên tất cả các bài kiểm tra đánh giá (benchmark) trong khi vẫn đạt thời gian phản hồi dưới một giây. Bản phát hành này cung cấp cho các nhà phát triển một giải pháp mã nguồn mở, tự duy trì để đưa ra quyết định AI cực nhanh và có cấu trúc mà không phụ thuộc vào API đám mây độc quyền. Điều này phản ánh xu hướng phát triển của các mô hình siêu nhẹ, chuyên biệt có khả năng suy luận cục bộ trên CPU thông thường mà không cần GPU chuyên dụng. Von hoạt động hoàn toàn trên CPU chỉ với 1–2 GB RAM và mang lại độ trễ phản hồi từ 25 đến 300 ms. Mặc dù được thiết kế chủ yếu cho CPU tài nguyên thấp, việc chạy mô hình trên GPU sẽ giúp giảm thêm độ trễ.