CEO Qualcomm: Các công ty AI muốn điện thoại chạy mô hình 100 tỷ tham số vào năm 2028
Giám đốc điều hành Qualcomm Cristiano Amon tiết lộ rằng các công ty AI đang thúc đẩy việc phát triển điện thoại thông minh có khả năng chạy liên tục các mô hình 100 tỷ tham số vào năm 2028. Mục tiêu này đánh dấu một bước nhảy vọt lớn so với giới hạn trên thiết bị hiện tại, vốn chỉ dao động quanh mức 30 tỷ tham số. Dự báo đầy tham vọng này nhấn mạnh xu hướng chuyển dịch nhanh chóng sang các hệ thống AI tác tử hoạt động liên tục ngay trên phần cứng di động thay vì phụ thuộc hoàn toàn vào máy chủ đám mây. Việc đạt được điều này sẽ cải thiện đáng kể quyền riêng tư dữ liệu, giảm độ trễ và hỗ trợ các trợ lý AI ngoại tuyến hoạt động mượt mà. Quá trình chuyển đổi sang việc chạy liên tục các mô hình 100 tỷ tham số trên thiết bị cầm tay đòi hỏi những đột phá mang tính bước ngoặt về kiến trúc NPU di động, băng thông bộ nhớ và các kỹ thuật lượng tử hóa mô hình. Ban lãnh đạo Qualcomm nhấn mạnh rằng AI biên trong tương lai sẽ tập trung mạnh mẽ vào các tác nhân phần mềm tự động, chủ động thực hiện các tác vụ thay cho người dùng.
## KIẾN THỨC NỀN
AI biên liên quan đến việc chạy các mô hình học máy trực tiếp trên phần cứng cục bộ như điện thoại thông minh, máyδ tính xách tay và các thiết bị IoT thay vì các trung tâm dữ liệu đám mây từ xa. Số lượng tham số là chỉ báo chung về năng lực và độ phức tạp của mô hình AI, trong đó các mô hình lớn hơn thường mang lại khả năng suy luận và hiểu ngôn ngữ vượt trội với cái giá phải trả là yêu cầu tính toán và bộ nhớ cao hơn đáng kể.