~/LLM ARCHITEC/open-source-researcher-claims-prior-art-on-non-autoregressive-jev-architecture

Nhà nghiên cứu mã nguồn mở tuyên bố đã sáng chế trước kiến trúc Jev phi tự hồi quy

Nhà nghiên cứu AI mã nguồn mở Nandakishor_ml đã chỉ ra nghiên cứu trước đó của mình từ đầu năm 2025, trong đó giới thiệu kiến trúc dự đoán xác suất phi tự hồi quy kèm mô hình mở, tập dữ liệu và bài báo trên arXiv trước công bố về mô hình Jev của TypeSafe. Tình huống này phản ánh tình trạng các đóng góp mã nguồn mở độc lập thường bị ngó lơ khi các phòng thí nghiệm AI lớn công bố các khái niệm kiến trúc tương tự như một bước đột phá mà không mở mã nguồn hay nghiên cứu. Nó cũng cho thấy xu hướng toàn ngành đang hướng tới các mô hình phi tự hồi quy được thiết kế để dự đoán xác suất có cấu trúc siêu nhanh thay vì sinh văn bản truyền thống. Mặc dù giải pháp trước đó của nhà nghiên cứu sử dụng PPO trên các nhúng chuỗi để dự đoán quỹ đạo từng lượt, TypeSafe Jev lại sử dụng lấy mẫu song song được huấn luyện qua RLCD để tạo ra phân phối độ tin cậy trên các sơ đồ JSON. Dù có sự khác biệt về cách huấn luyện, cả hai đều dựa trên cùng một nguyên lý cốt lõi là tạo đầu ra phi tự hồi quy chỉ trong một truy vấn duy nhất.

## KIẾN THỨC NỀN

Các LLM tự hồi quy truyền thống tạo văn bản theo từng token nối tiếp, điều này có thể tốn chi phí tính toán và dễ dẫn đến ảo giác khi trích xuất dữ liệu có cấu trúc. Các kiến trúc phi tự hồi quy tạo ra đầu ra hoặc đánh giá phân phối xác suất chỉ trong một lần chạy, cho phép ra quyết định nhanh chóng và xác định, phù hợp với các API an toàn về kiểu dữ liệu (type-safe).

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#llm-architecture#prior-art#non-autoregressive#open-source-ai#machine-learning-research

$ subscribe --daily

Nhà nghiên cứu mã nguồn mở tuyên bố đã sáng chế trước kiến trúc Jev phi tự hồi quy | Daily News