LG AI Research Ra Mắt K-EXAONE 2.0, Mô Hình Trọng Số Mở 750 Tỷ Tham Số
LG AI Research đã phát hành K-EXAONE 2.0, một mô hình trọng số mở thuộc kiến trúc Mixture of Experts (MoE) với 750 tỷ tham số (37 tỷ tham số kích hoạt) dưới giấy phép Apache 2.0. Mô hình này được phát triển như một phần trong sáng kiến AI chủ quyền do chính phủ Hàn Quốc tài trợ. Sự kiện ra mắt này đánh dấu một cột mốc quan trọng trong dự án AI quốc gia của Hàn Quốc, nhằm xây dựng năng lực AI nội địa và giảm sự phụ thuộc vào các nhà cung cấp công nghệ nước ngoài. Bằng cách cung cấp mô hình dưới giấy phép mã nguồn mở, dự án mang đến cho cộng đồng AI toàn cầu một mô hình MoE quy mô lớn và mạnh mẽ. Mô hình này được cung cấp ở nhiều định dạng lượng tử hóa khác nhau, bao gồm FP8 và NVFP4, trong đó NVFP4 được thiết kế để tối ưu hóa hiệu năng suy luận độ chính xác thấp trên GPU NVIDIA Blackwell. Dự án này nằm trong một chương trình cạnh tranh của chính phủ, nơi các công ty tham gia sẽ bị đánh giá định kỳ và loại bỏ dần.
## KIẾN THỨC NỀN
AI chủ quyền (Sovereign AI) đề cập đến các nỗ lực quốc gia hoặc khu vực nhằm phát triển cơ sở hạ tầng, mô hình và kiểm soát dữ liệu AI độc lập để bảo vệ an ninh quốc gia và bản sắc văn hóa. Mixture of Experts (MoE) là một kiến trúc chỉ kích hoạt một phần nhỏ các tham số (chuyên gia) của mô hình cho mỗi đầu vào cụ thể, giúp giảm đáng kể chi phí tính toán khi suy luận. NVFP4 là định dạng dấu phẩy động 4-bit do NVIDIA giới thiệu nhằm duy trì độ chính xác của mô hình trong khi giảm băng thông bộ nhớ và yêu cầu lưu trữ.