Microsoft Đánh Giá Tích Hợp Kimi K3 Vào Copilot Để Giảm Chi Phí
Microsoft được cho là đang thử nghiệm mô hình Kimi K3 của Moonshot AI để đánh giá việc chuyển đổi một số yêu cầu suy luận của Copilot từ OpenAI và Anthropic. Sự tích hợp tiềm năng này có thể giúp Microsoft giảm tới 600 triệu USD chi phí cơ sở hạ tầng đám mây hàng năm. Động thái này làm nổi bật sự chuyển dịch rộng lớn hơn của ngành công nghiệp hướng tới chiến lược đa mô hình nhằm tối ưu hóa chi phí vận hành và giảm sự phụ thuộc vào một nhà cung cấp AI duy nhất như OpenAI. Nó cho thấy các ông lớn công nghệ đang ngày càng ưu tiên hiệu quả chi phí hơn là hiệu năng thuần túy cho các tác vụ không cốt lõi. Kimi K3 là mô hình lập luận đa phương thức trọng số mở với 2,8 nghìn tỷ tham số, cung cấp khả năng lập trình và lập luận cạnh tranh với chi phí thấp hơn GPT-4 hoặc Claude. Tuy nhiên, việc chuyển đổi đối mặt với nhiều thách thức, bao gồm sự liên kết chặt chẽ với API của OpenAI, các lo ngại về chủ quyền dữ liệu liên quan đến mô hình AI của Trung Quốc, và sự đánh đổi về chất lượng.
## KIẾN THỨC NỀN
Moonshot AI là một công ty khởi nghiệp trí tuệ nhân tạo của Trung Quốc, nổi tiếng với chatbot Kimi và các mô hình ngôn ngữ lớn có khả năng xử lý ngữ cảnh dài. Suy luận AI (inference), quá trình chạy dữ liệu thực tế qua một mô hình đã được huấn luyện để tạo ra dự đoán hoặc phản hồi, cực kỳ tốn tài nguyên và là chi phí vận hành lớn đối với các công ty vận hành trợ lý AI.