Microsoft tích hợp mô hình AI MAI Code 1.1 Flash 130 tỷ tham số vào Windows 11
Microsoft đã thông báo kế hoạch tích hợp mô hình AI MAI Code 1.1 Flash với 130 tỷ tham số vào các thiết bị Windows 11, tiếp nối việc triển khai trên VS Code và GitHub Copilot. Mô hình cập nhật này bổ sung khả năng đa thức (multimodal) để xử lý hình ảnh và sơ đồ kiến trúc, đồng thời tạo mã nhanh hơn và tiết kiệm token hơn. Việc đưa một mô hình lập trình dung lượng lớn, độ trễ thấp trực tiếp vào Windows 11 và hệ sinh thái lập trình của Microsoft giúp giảm chi phí và thời gian phản hồi cho việc lập trình với sự trợ giúp của AI. Bước đi này tối ưu hóa quy trình làm việc hàng ngày của nhà phát triển, cho phép truy vấn kho mã, tái cấu trúc mã và chuyển đổi phác thảo UI thành mã nguồn một cách nhanh chóng ngay trên hệ điều hành. Mô hình sử dụng kỹ thuật lượng hóa 3-bit (3-bit quantization) để giảm 80% kích thước bộ nhớ trong khi vẫn duy trì cửa sổ ngữ cảnh 256K token. So với phiên bản tháng 6, MAI Code 1.1 Flash tăng 25% tốc độ luồng token, giảm 25% số token cần thiết và tăng 22% điểm số trên bộ kiểm thử Terminal-Bench 2.1.
## KIẾN THỨC NỀN
Lượng hóa mô hình (quantization) là kỹ thuật giảm độ chính xác số học của các tham số—chẳng hạn như nén từ số 32-bit xuống 3-bit—nhằm giảm mạnh dung lượng mô hình và yêu cầu bộ nhớ mà vẫn giữ được độ chính xác. Cửa sổ ngữ cảnh của mô hình xác định lượng văn bản hoặc mã nguồn mà mô hình có thể phân tích cùng một lúc, điều này rất quan trọng để hiểu các kho mã nguồn phần mềm lớn.