vivo ra mắt bản xem trước BlueCode và nghiên cứu AI 30B MoE trên điện thoại
vivo đã ra mắt bản xem trước của BlueCode, một agent AI lập trình nguyên bản thiết kế để đưa công cụ phát triển phần mềm trực tiếp lên điện thoại di động. Công ty cũng công bố nghiên cứu đang thực hiện nhằm vận hành mô hình BlueLM 30 tỷ tham số dạng Mixture of Experts (MoE) trên phần cứng di động. Việc triển khai mô hình 30 tỷ tham số trên thiết bị di động mở rộng giới hạn hiệu năng của AI trên thiết bị, cho phép tạo mã nguồn phức tạp mà không phụ thuộc vào điện toán đám mây. Điều này thể hiện nỗ lực của các nhà sản xuất điện thoại nhằm biến thiết bị di động thành trung tâm năng suất độc lập, đồng thời cải thiện độ trễ và tính bảo mật. Thông báo được đưa ra cùng với các bản cập nhật cho lộ trình chiến lược BlueLM, OriginOS 7 và hệ điều hành tự phát triển BlueOS 4 của vivo. Việc sử dụng kiến trúc Mixture of Experts cho phép mô hình chỉ kích hoạt một tập hợp con các tham số trong quá trình suy luận, giúp mô hình quy mô lớn trở nên khả thi hơn đáng kể trong giới hạn tính toán và RAM của điện thoại.
## KIẾN THỨC NỀN
Mixture of Experts (MoE) là một kiến trúc mạng thần kinh chia mô hình lớn thành các mạng con chuyên biệt gọi là chuyên gia, chỉ định tuyến các token đầu vào đến các chuyên gia phù hợp để giảm chi phí tính toán thực tế. BlueLM của vivo là họ mô hình ngôn ngữ lớn độc quyền được phát triển bởi vivo AI Lab cho các tác vụ trí tuệ nhân tạo tổng hợp. Xử lý AI trực tiếp trên thiết bị (on-device AI) giúp giảm thiểu độ trễ, cho phép hoạt động ngoại tuyến và bảo vệ quyền riêng tư bằng cách giữ dữ liệu người dùng ở lại cục bộ.