Houmo.ai Xác Nhận Kiến Trúc 3D CIM Cho Chip AI Edge Thế Hệ Mới
Tại Hội nghị Thượng đỉnh Chip AI Toàn cầu, Houmo.ai đã xác nhận rằng chip AI edge cờ đầu thế hệ mới dành cho các mô hình ngôn ngữ lớn sẽ sử dụng kiến trúc 3D Compute-in-Memory (CIM) kết hợp với 3D DRAM. Nhờ thiết kế xếp chồng theo chiều dọc, chip mới đạt gấp đôi mật độ tính toán trên cùng một diện tích, đồng thời tối ưu hóa hiệu suất năng lượng và tản nhiệt. Việc vận hành các mô hình AI lớn trên thiết bị edge đòi hỏi phải vượt qua giới hạn công suất nghiêm ngặt và nút thắt băng thông bộ nhớ. Việc áp dụng công nghệ 3D CIM giúp các thiết bị edge có thể suy luận AI và tương tác siêu thời gian thực ngay tại cục bộ mà không phụ thuộc quá nhiều vào điện toán đám mây. Kiến trúc mới được phát triển nối tiếp dòng chip Manjie M50 trước đó của Houmo, vốn cung cấp sức mạnh tính toán 160 TOPS (INT8) ở mức công suất 10W. Việc tích hợp 3D DRAM xếp chồng theo chiều dọc giúp giảm đáng kể khoảng cách kết nối, giải quyết trực tiếp rào cản truy xuất bộ nhớ thường gặp trên phần cứng AI edge.
## KIẾN THỨC NỀN
Compute-in-Memory (CIM) là công nghệ tích hợp logic xử lý trực tiếp vào các mảng bộ nhớ nhằm giảm chi phí năng lượng và độ trễ khi di chuyển dữ liệu trong kiến trúc von Neumann truyền thống. Công nghệ 3D DRAM xếp chồng các lớp bộ nhớ theo chiều dọc, mang lại băng thông bộ nhớ cao hơn và hiệu quả không gian vượt trội cho các tác vụ AI phức tạp.