Axion 1.0: Mô hình nền tảng tác nhân mở 35B với quy trình huấn luyện đơn giản hóa

Axion 1.0 là một mô hình nền tảng tác nhân mở 35B mới được huấn luyện bằng công thức ba giai đoạn tinh gọn kết hợp giữa tinh chỉnh giám sát và học tăng cường. Các nhà phát triển đã phát hành không chỉ trọng số mô hình mà cả mã nguồn huấn luyện hoàn chỉnh, các câu lệnh mẫu và quy trình xây dựng dữ liệu. Bản phát hành này chứng minh rằng các năng lực tác nhân mạnh mẽ có thể đạt được mà không cần các can thiệp huấn luyện phức tạp như tối ưu hóa sở thích trực tiếp hoặc chưng cất trên chính sách. Bằng cách mã nguồn mở hoàn toàn quy trình phát triển, nó cung cấp một con đường có khả năng tái tạo cao cho cộng đồng mã nguồn mở để xây dựng và nghiên cứu các mô hình tác nhân tiên tiến. Axion 1.0 tránh sử dụng quá trình huấn luyện trung gian chuyên biệt, DPO và OPD, thay vào đó dựa vào hai giai đoạn SFT nhẹ nhàng tập trung vào suy luận tự chứa và phụ thuộc công cụ, tiếp theo là học tăng cường. Mô hình đạt hiệu suất cạnh tranh với các mô hình thương mại hàng đầu trên nhiều tiêu chuẩn đánh giá tác nhân.