IFM Tổ Chức Buổi AMA Trên Reddit Về Bộ Mô Hình Mở K2 Horizon

Các nhà nghiên cứu từ Viện Mô hình Nền tảng (IFM) đã tổ chức buổi AMA trên Reddit để giới thiệu K2 Horizon, một bộ gồm 6 mô hình AI hoàn toàn mở với quy mô từ 0,9 tỷ đến 375 tỷ tham số. Cùng với trọng số mô hình, nhóm đã phát hành đầy đủ công thức dữ liệu huấn luyện, mã nguồn, các điểm kiểm tra trung gian (checkpoints) và nhật ký đánh giá chi tiết. Không giống như nhiều đợt phát hành chỉ cung cấp trọng số mô hình cuối cùng, K2 Horizon mang lại sự minh bạch toàn diện trong suốt quy trình tạo mô hình. Điều này cho phép các nhà nghiên cứu độc lập tái tạo, kiểm toán và phát triển dựa trên các phương pháp AI tiên tiến trên nhiều cấu hình phần cứng khác nhau. Bộ mô hình này tích hợp các thành phần kiến trúc chuyên biệt như MoVA và sparse attention để tối ưu hóa hiệu suất và xử lý ngữ cảnh trên nhiều quy mô khác nhau. Trong sự kiện trực tiếp, nhóm IFM đã giải đáp các câu hỏi kỹ thuật về việc phối hợp dữ liệu tiền huấn luyện, căn chỉnh sau huấn luyện, triển khai trên thiết bị và các bản cập nhật sắp tới.