Huawei tích hợp mô hình Kimi K3 của Moonshot AI vào trợ lý Xiaoyi
Huawei đã cập nhật trợ lý Xiaoyi lên phiên bản 11.6.6.300, tích hợp mô hình hàng đầu Kimi K3 của Moonshot AI vào tác nhân "Xiaoyi Claw". Bản cập nhật này cũng mang đến các tính năng giải thích bài toán bằng hình ảnh trực quan và tóm tắt thời gian thực cho tính năng dịch thuật song song. Sự tích hợp này mang một mô hình mạnh mẽ với 2,8 nghìn tỷ tham số trực tiếp vào trợ lý gốc của hệ điều hành di động, giúp nâng cao đáng kể khả năng lập luận và hiệu suất làm việc. Điều này làm nổi bật xu hướng ngày càng tăng của ngành trong việc nhúng các mô hình ngôn ngữ lớn (LLM) tiên tiến vào hệ sinh thái di động cấp hệ thống. Kimi K3 sở hữu cửa sổ ngữ cảnh 1 triệu token và được xây dựng trên các công nghệ Kimi Delta Attention (KDA) cùng Attention Residuals. Phiên bản Xiaoyi Claw cập nhật này khả dụng trên các thiết bị chạy HarmonyOS 5.0 trở lên.
## KIẾN THỨC NỀN
Kimi K3 của Moonshot AI là mô hình hàng đầu được thiết kế cho các tác vụ phức tạp như kỹ nghệ phần mềm và lập luận chuyên sâu. Mô hình này sử dụng Kimi Delta Attention (KDA), một cơ chế chú ý tuyến tính giúp cải thiện hiệu suất so với cơ chế chú ý truyền thống, và Attention Residuals, công nghệ thay thế các kết nối dư thừa cộng tính tiêu chuẩn bằng cơ chế chú ý softmax được huấn luyện trên các lớp trước đó để tối ưu hóa việc định tuyến thông tin.