Inception Labs giới thiệu Mercury 3: Mô hình ngôn ngữ lớn dạng khuếch tán tốc độ cao

Inception Labs đã ra mắt Mercury 3, một mô hình khuếch tán quy mô lớn đạt tốc độ tạo văn bản vượt 1.000 token mỗi giây. Công ty tuyên bố mô hình này vượt trội hơn một số mô hình biên cạnh tranh trên các bài kiểm tra chuẩn quan trọng. Bản phát hành này làm nổi bật sự tiến bộ liên tục của các kiến trúc khuếch tán phi tự hồi quy trong AI tạo sinh, mang lại tốc độ xử lý nhanh hơn đáng kể và độ trễ thấp hơn so với các mô hình truyền thống. Những cải tiến này có thể giúp giảm mạnh chi phí vận hành và nâng cao khả năng phản hồi của ứng dụng thời gian thực. Mercury 3 hoạt động như một mô hình ngôn ngữ lớn dựa trên cơ chế khuếch tán, có khả năng chạy nhanh hơn từ 4 đến 8 lần so với các giải pháp thay thế truyền thống trong khi vẫn duy trì chất lượng cạnh tranh. Người dùng đã ghi nhận khả năng tương tác nhiều lượt mạnh mẽ cùng hiệu suất tạo mã nguồn và giao diện hiệu quả của nó.