Gigabyte Ra Mắt Máy Trạm AI TOP 100 B850 Cho Các Tác Vụ AI Cục Bộ
Gigabyte vừa ra mắt hệ thống máy trạm AI TOP 100 B850 chạy vi xử lý AMD Ryzen 9 9950X, được thiết kế để hỗ trợ một card đồ họa NVIDIA GeForce RTX 5090 hoặc hai card AMD Radeon AI PRO R9700. Hệ thống hướng đến các tác vụ AI cục bộ, đạt tốc độ tạo 64,9 token/giây trên các mô hình 32B khi sử dụng cấu hình RTX 5090. Khi nhu cầu chạy AI cục bộ ngày càng tăng nhằm bảo vệ quyền riêng tư dữ liệu và giảm độ trễ, các máy trạm cấu hình sẵn như AI TOP 100 B850 giúp các nhà phát triển và nghiên cứu có thể tinh chỉnh cũng như vận hành các mô hình ngôn ngữ lớn ngay tại chỗ mà không phụ thuộc hoàn toàn vào hạ tầng đám mây. Được xây dựng trên bo mạch chủ AMD B850 với hệ thống cấp nguồn 16+2+2 pha, máy trạm trang bị 128GB bộ nhớ DDR5, bộ nguồn 1600W 80 PLUS Platinum, 2 cổng mạng 10GbE và hỗ trợ Wi-Fi 7. Gigabyte cho biết cấu hình GPU kép R9700 có khả năng suy luận cho các mô hình lên tới 235B tham số và tinh chỉnh các mô hình tới 110B tham số.
## KIẾN THỨC NỀN
Máy trạm AI cục bộ cho phép các tổ chức huấn luyện và chạy các mô hình máy học trên phần cứng chuyên dụng tại chỗ thay vì phải thuê GPU trên đám mây. Các chỉ số như token mỗi giây (TPS) dùng để đo tốc độ tạo nội dung trong quá trình suy luận, thể hiện tốc độ xuất văn bản của mô hình.