Tác nhân AI vượt mốc chuẩn FlashMLA của NVIDIA 9.8% trên GPU B200
Một tác nhân AI tự động do OpenBMB phát triển đã vượt mức chuẩn FlashMLA của NVIDIA 9.8% trên GPU B200 trong đợt tối ưu hóa hộp đen kéo dài khoảng 22 giờ. Tác nhân này đã thành công rút ngắn thời gian thực thi nhân từ 518 micro giây xuống còn 472 micro giây mà không cần tiếp cận mã nguồn. Thành tựu này đánh dấu một bước ngoặt kỹ thuật quan trọng khi chứng minh rằng các tác nhân AI có thể tự động tối ưu hóa mã phần cứng cấp thấp chỉ thông qua phản hồi hiệu năng thay vì phân tích mã trực tiếp. Điều này làm nổi bật sự chuyển dịch sang hướng tăng tốc phần cứng và tối ưu hóa nhân do AI điều khiển trong các hệ thống điện toán phức tạp. Trong suốt quá trình chạy 22 giờ, tác nhân đã thử nghiệm 32 phiên bản nhân qua 42 vòng lặp và lần đầu tiên vượt qua mức chuẩn ở phiên bản 13. OpenBMB đã mã nguồn mở nhân được tối ưu hóa cùng với 27 toán tử và bộ công cụ ForgeKernel để cộng đồng thử nghiệm.
## KIẾN THỨC NỀN
Nhân GPU (GPU kernel) là các hàm chuyên biệt chạy trên đơn vị xử lý đồ họa nhằm tăng tốc các tính toán nặng như các tác vụ học sâu. FlashMLA là một thư viện cơ chế chú ý hiệu quả được tối ưu hóa cho việc suy luận mô hình hiệu suất cao, trong khi NVIDIA B200 là GPU trung tâm dữ liệu tiên tiến dựa trên kiến trúc Blackwell được thiết kế cho các khối lượng công việc AI cực lớn.