Mistral AI Công Bố Tài Liệu Cho Mô Hình Đa Phương Thức Mistral Large 4
Mistral AI đã công bố tài liệu và chi tiết về Mistral Large 4, một mô hình đa phương thức tiên tiến với trọng số mở sắp ra mắt. Mô hình này sở hữu các tính năng thông minh trực quan tiên tiến bên cạnh kiến trúc xử lý ngôn ngữ lớn. Là một mô hình biên lớn của châu Âu, Mistral Large 4 đóng góp quan trọng cho chủ quyền kỹ thuật số và sự phát triển AI trọng số mở. Tuy nhiên, nó phải đối mặt với sự cạnh tranh khốc liệt về tỷ lệ chi phí-hiệu năng từ các mô hình thay thế trên hệ sinh thái toàn cầu. Mistral Large 4 sử dụng kiến trúc Hỗn hợp chuyên gia (Mixture-of-Experts) dạng chi tiết với 52 tỷ tham số hoạt động trên tổng số 1,05 nghìn tỷ tham số, đi kèm với một bộ mã hóa thị giác 1,6 tỷ tham số. Các báo cáo từ cộng đồng lưu ý rằng trọng số mở của mô hình dự kiến sẽ xuất hiện trên Hugging Face vào cuối tháng.
## KIẾN THỨC NỀN
Mistral AI là một công ty trí tuệ nhân tạo nổi tiếng của Pháp được thành lập vào năm 2023, tập trung phát triển các mô hình ngôn ngữ lớn độc quyền và có trọng số mở. Trọng số mở đề cập đến các tham số đã học được phát hành công khai của một mạng thần kinh đã được huấn luyện, cho phép các nhà phát triển tải xuống và sử dụng mô hình tại chỗ.