Startup chip AI Etched đạt định giá 21 tỷ USD và bàn giao các tủ rack đầu tiên
Startup chip AI Etched đã huy động thành công 700 triệu USD trong vòng gọi vốn mới, nâng định giá của công ty lên 21 tỷ USD, đồng thời bàn giao các tủ rack tăng tốc AI đầu tiên cho nhà đầu tư dẫn đầu Jane Street. Cột mốc này đánh dấu một bước tiến quan trọng đối với các dòng chip ASIC chuyên dụng cho Transformer, chứng minh rằng phần cứng chuyên biệt cho suy luận mô hình ngôn ngữ lớn đang chuyển dịch từ thiết kế sang triển khai thực tế tại các trung tâm dữ liệu. Chip "Sohu" của Etched tích hợp trực tiếp kiến trúc Transformer vào phần cứng silicon (fixed-function ASIC), mang lại hiệu suất xử lý vượt trội cho các mô hình Transformer nhưng sẽ không có tính linh hoạt để chạy các kiến trúc không phải Transformer.
## KIẾN THỨC NỀN
Kiến trúc Transformer, được giới thiệu vào năm 2017, là nền tảng cho các mô hình ngôn ngữ lớn hiện đại như GPT-4. Trong khi các GPU đa dụng như của NVIDIA chạy các mô hình này thông qua phần mềm, các chip tích hợp chuyên dụng (ASIC) như Sohu được thiết kế riêng cho một cấu trúc toán học duy nhất nhằm tối đa hóa tốc độ và hiệu suất năng lượng.