Elon Musk công bố sắp ra mắt mô hình Grok 4.6 với quy mô 2 nghìn tỷ tham số
Elon Musk thông báo rằng xAI (được gọi là SpaceXAI) có kế hoạch ra mắt mô hình Grok 4.6 với quy mô 2 nghìn tỷ (2T) tham số trước ngày 7 tháng 8, tiếp theo là Grok 4.7 trước ngày 21 tháng 8. Grok 4.6 đã hoàn thành giai đoạn huấn luyện ban đầu và được kỳ vọng sẽ vượt trội hơn so với mô hình Grok 4.5 có quy mô 1,5 nghìn tỷ tham số. Sự cải tiến nhanh chóng và quy mô khổng lồ 2 nghìn tỷ tham số làm nổi bật nỗ lực cạnh tranh mạnh mẽ của xAI với các phòng nghiên cứu AI hàng đầu. Việc phát hành này có thể thiết lập các tiêu chuẩn mới cho các mô hình ngôn ngữ lớn trong các tác vụ lập trình, tác vụ tự trị (agentic) và lập luận. Mặc dù Grok 4.6 đã hoàn thành quá trình huấn luyện ban đầu, các thông số kỹ thuật và hiệu suất của mô hình Grok 4.7 tiếp theo vẫn chưa được tiết lộ. Ngoài ra, tài liệu chính thức và tin tức từ x.ai hiện đang gọi thực thể này là "SpaceXAI".
## KIẾN THỨC NỀN
Các mô hình ngôn ngữ lớn dựa vào các tham số, vốn là các biến số nội bộ (trọng số và độ lệch) mà mô hình tự học trong quá trình huấn luyện để đưa ra dự đoán. Nhìn chung, số lượng tham số lớn hơn cho phép mô hình nắm bắt các mẫu phức tạp hơn và hoạt động tốt hơn trên các tác vụ đa dạng, mặc dù điều này cũng đòi hỏi sức mạnh tính toán lớn hơn đáng kể.