Musk công bố Grok 4.8 với 2,5 nghìn tỷ tham số trên nền tảng C++ mới

Elon Musk tuyên bố mô hình AI Grok 4.8 của xAI với 2,5 nghìn tỷ tham số đang hoàn tất giai đoạn huấn luyện ban đầu trong tuần này bằng một bộ phần mềm C++ hoàn toàn mới. Sau giai đoạn tiền huấn luyện này, mô hình sẽ chuyển sang bước tinh chỉnh bằng học tăng cường (RL). Việc đạt quy mô 2,5 nghìn tỷ tham số đưa Grok 4.8 trở thành một trong những mô hình AI lớn nhất tính đến nay, và việc chuyển từ các framework Python truyền thống như PyTorch sang bộ công cụ C++ tùy chỉnh có thể tạo ra tiêu chuẩn mới về hiệu suất tính toán ở quy mô lớn. Thông tin này được đưa ra cùng thời điểm xAI tạm hoãn ra mắt Grok 4.7, do phát hiện việc phạt độ dài quá mức trong giai đoạn học tăng cường khiến mô hình từ bỏ sớm các tác vụ suy luận phức tạp và bỏ qua bước tự kiểm tra kết quả.