Trạm làm việc AI Tenstorrent Quietbox 2 chính thức đến tay các nhà phát triển
Một nhà phát triển đã nhận được Tenstorrent Quietbox 2, một trạm làm việc AI dạng để bàn được thiết kế để chạy các mô hình lớn như LLM 70B. Hệ thống này sở hữu 256 GB bộ nhớ hệ thống và 128 GB bộ nhớ GDDR6 kết nối liên thông giữa các bộ tăng tốc. Với mức giá 9.999 USD, Quietbox 2 mang đến một giải pháp thay thế nhỏ gọn như PC và dễ tiếp cận hơn so với phần cứng thống trị của Nvidia cho việc chạy LLM cục bộ và phát triển AI. Thiết bị này làm nổi bật nỗ lực của Tenstorrent trong việc cung cấp phần cứng có khả năng mở rộng và được hỗ trợ bởi mã nguồn mở cho cộng đồng phát triển AI. Trạm làm việc này được trang bị bốn bộ tăng tốc AI Blackhole tùy chỉnh của Tenstorrent và chạy trên một ngăn xếp phần mềm hoàn toàn mã nguồn mở. Nhà phát triển ghi nhận khả năng mở rộng kết nối liên thông ấn tượng của hệ thống và dự kiến sẽ thử nghiệm nhiều mô hình khác nhau trên kiến trúc độc đáo này.
## KIẾN THỨC NỀN
Tenstorrent là một công ty khởi nghiệp phần cứng do chuyên gia thiết kế chip Jim Keller dẫn dắt, tập trung vào các bộ xử lý AI dựa trên RISC-V và kiến trúc chiplet. Khác với GPU truyền thống, kiến trúc của Tenstorrent sử dụng các lõi Tensix và thiết kế mạng lưới trên chip (NoC) để tối ưu hóa luồng dữ liệu và hiệu suất cho các tác vụ AI.