Moonshot AI Phát Hành Trọng Số Mở Cho Mô Hình Kimi-K3 2,8 Nghìn Tỷ Tham Số
Moonshot AI đã chính thức phát hành trọng số cho Kimi-K3, một mô hình khổng lồ với 2,8 nghìn tỷ tham số, trên Hugging Face. Các tệp trọng số của mô hình này nặng tới 1,56TB và được phát hành dưới một giấy phép tùy chỉnh yêu cầu các doanh nghiệp thương mại quy mô lớn phải ký thỏa thuận riêng. Việc phát hành trọng số mở cho một mô hình ở quy mô này là một cột mốc quan trọng trong hệ sinh thái AI, giúp giảm rào cản để vận hành các mô hình tiên tiến nhất. Tuy nhiên, các điều khoản giấy phép hạn chế đối với các thực thể thương mại lớn làm nổi bật sự căng thẳng đang diễn ra giữa việc phân phối trọng số mở và thương mại hóa. Mô hình Kimi-K3 sở hữu cửa sổ ngữ cảnh 1 triệu token, khả năng hiểu thị giác bản địa và được xây dựng trên cơ chế Kimi Delta Attention (KDA). Giấy phép của nó quy định rằng bất kỳ doanh nghiệp cung cấp dịch vụ mô hình (Model as a Service) nào có doanh thu vượt quá 20 triệu USD trong 12 tháng phải ký một thỏa thuận riêng với Moonshot AI.
## KIẾN THỨC NỀN
Trọng số mô hình (model weights) là các tham số số học xác định cấu trúc bên trong và logic ra quyết định của một mạng thần kinh nhân tạo, đại diện cho tri thức mà mô hình đã học được. Trong khi "mã nguồn mở" (open source) thường ngụ ý việc sử dụng không bị hạn chế, các mô hình "trọng số mở" (open weight) như Kimi-K3 cung cấp quyền truy cập công khai vào các tham số này nhưng thường áp đặt các hạn chế giấy phép tùy chỉnh đối với việc triển khai thương mại.