~/AI/speakleash-releases-bielik-11b-v3-1-instruct-multilingual-language-model

SpeakLeash Phát Hành Mô Hình Ngôn Ngữ Đa Ngôn Ngữ Bielik-11B-v3.1-Instruct

SpeakLeash vừa phát hành Bielik-11B-v3.1-Instruct, một mô hình văn bản tạo sinh có 11 tỷ tham số được tối ưu hóa cho việc tuân thủ hướng dẫn, sử dụng công cụ và suy luận, với trọng tâm mạnh mẽ vào tiếng Ba Lan và các ngôn ngữ châu Âu. Bản phát hành này cung cấp một mô hình khu vực có trọng lượng mở với hiệu suất cao, giúp nâng cao năng lực ngôn ngữ cho các tiếng châu Âu ngoài các mô hình tập trung vào tiếng Anh thống trị, đồng thời tận dụng cơ sở hạ tầng siêu máy tính công cộng. Quy trình huấn luyện bao gồm tiền huấn luyện trên 500 tỷ token trên 56 ngôn ngữ, tinh chỉnh có giám sát (SFT) trên 26 triệu mẫu, và học tăng cường sử dụng phương pháp GRPO được sửa đổi qua 14 môi trường đa dạng bằng khung ALLaMo.

## KIẾN THỨC NỀN

SpeakLeash là một dự án mã nguồn mở tập trung thu thập dữ liệu tiếng Ba Lan và phát triển các công cụ xử lý ngôn ngữ tự nhiên (NLP) phù hợp với hệ sinh thái ngôn ngữ Ba Lan. Mô hình này được huấn luyện bằng các tài nguyên máy tính hiệu năng cao của Ba Lan như các siêu máy tính Athena và Helios trong môi trường PLGrid.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#AI#LLM#Open Source#Multilingual#Polish

$ subscribe --daily