Anthropic Chuyển từ Ý định Mua lại Startup Chip AI MatX Sang Hợp tác
Anthropic được cho là từng cân nhắc mua lại startup chip AI MatX với giá khoảng 7 tỷ USD trước khi chuyển hướng đàm phán sang mô hình hợp tác. Trong khi đó, MatX đang tìm kiếm nguồn vốn mới với mức định giá 4 tỷ USD, và Anthropic vẫn tiếp tục thúc đẩy dự án tự thiết kế chip bằng việc tuyển dụng cựu trưởng bộ phận Google TPU Amir Salek. Động thái này làm nổi bật xu hướng ngày càng tăng của các phòng nghiên cứu AI lớn trong việc tìm kiếm chip tùy chỉnh nhằm tối ưu hóa hiệu suất LLM và giảm sự phụ thuộc vào phần cứng của Nvidia. Một mối quan hệ hợp tác hoặc mua lại trong lĩnh vực này có thể giảm đáng kể chi phí và độ trễ khi vận hành các mô hình Claude của Anthropic. Chip độc quyền của MatX, mang tên MatX One, được thiết kế chuyên biệt cho các LLM và được tuyên bố là mang lại thông lượng cũng như độ trễ vượt trội trong cả hai giai đoạn prefill và decode của quá trình suy luận. Anthropic cũng đã thảo luận với nhiều startup chip khác khi cân nhắc nên tập trung vào phần cứng huấn luyện hay suy luận tùy chỉnh.
## KIẾN THỨC NỀN
Quá trình suy luận của Mô hình Ngôn ngữ Lớn (LLM) thường chạy qua hai giai đoạn riêng biệt: giai đoạn prefill (xử lý song song câu lệnh đầu vào) và giai đoạn decode (tạo ra kết quả đầu ra theo từng token). MatX được thành lập bởi các cựu kỹ sư Google nhằm xây dựng các bộ vi xử lý được tối ưu hóa riêng cho các tác vụ LLM đặc thù này. Việc phát triển chip tùy chỉnh cho phép các công ty AI điều chỉnh kiến trúc phần cứng phù hợp với các bước tính toán cụ thể này, từ đó có thể đạt được hiệu quả vượt trội.