Thinking Machines Lab Ra Mắt Inkling-Small, Mô Hình MoE Mã Nguồn Mở Hiệu Quả Cao

Thinking Machines Lab đã ra mắt Inkling-Small, một mô hình AI mã nguồn mở đa phương thức sử dụng kiến trúc hỗn hợp chuyên gia (MoE) với tổng cộng 276 tỷ tham số (12 tỷ tham số kích hoạt). Dù chỉ bằng khoảng 1/4 kích thước so với mô hình Inkling gốc, nó vẫn mang lại hiệu suất tương đương và thậm chí vượt trội hơn phiên bản tiền nhiệm trong một số tác vụ suy luận và tác nhân (agent). Sự ra mắt này chứng minh rằng các mô hình MoE nhỏ hơn và được tối ưu hóa có thể đạt hiệu suất ngang ngửa với các mô hình lớn hơn nhiều, giúp giảm đáng kể rào cản tính toán cho các tác vụ suy luận AI nâng cao. Bằng cách cung cấp trọng số mở và khả năng đa phương thức gốc, mô hình này giúp các nhà phát triển vận hành và tinh chỉnh các mô hình hiệu năng cao một cách hiệu quả hơn. Inkling-Small hỗ trợ suy luận gốc cho âm thanh và hình ảnh, khả năng điều chỉnh cường độ tư duy, cửa sổ ngữ cảnh 1 triệu token, và được huấn luyện trên hệ thống NVIDIA GB300 NVL72. Mô hình đạt điểm số 31,6% trong bài kiểm tra "Humanity's Last Exam", vượt qua mức 29,7% của Inkling gốc, và hiện đã có sẵn để tinh chỉnh thông qua Tinker API.