AMD mua lại startup chip AI Taalas để khắc trực tiếp mô hình vào silicon

AMD đã mua lại Taalas, một startup chip AI có trụ sở tại Toronto chuyên về việc khắc trực tiếp các mô hình học máy vào silicon. Thương vụ mua lại này nhằm mục đích nâng cao khả năng suy luận AI của AMD bằng cách loại bỏ nhu cầu sử dụng bộ nhớ ngoài như HBM để lưu trữ trọng số mô hình. Bằng cách tích hợp cứng các trọng số mô hình vào silicon, công nghệ này vượt qua nút thắt cổ chai về băng thông bộ nhớ truyền thống vốn giới hạn hiệu suất suy luận AI. Thương vụ này có thể giúp AMD cung cấp các chip chuyên dụng, hiệu quả cao cho các mô hình AI ổn định và có lưu lượng sử dụng lớn, thách thức sự thống trị của Nvidia trong thị trường suy luận. Phương pháp của Taalas tạo ra các "mô hình tích hợp cứng" không phụ thuộc vào DRAM ngoài hoặc phần mềm, giúp giảm đáng kể mức tiêu thụ điện năng và độ trễ. Tuy nhiên, một hạn chế lớn là sự thiếu linh hoạt, vì các mô hình đã khắc không thể cập nhật hoặc sửa đổi sau khi silicon được sản xuất.