Nhà phát triển tích hợp mô hình AI 1B cục bộ với hệ thống ADAS làm trợ lý lái xe
Một nhà phát triển đã thử nghiệm nạp một mô hình ngôn ngữ cục bộ 1 tỷ tham số lên phần cứng biên và tích hợp với Hệ thống hỗ trợ người lái nâng cao (ADAS). Cấu hình này tạo ra một trợ lý lái xe tinh gọn, xử lý trực tiếp trên xe. Chạy các mô hình ngôn ngữ nhỏ cục bộ trên chip ô tô giúp phản hồi tức thì và hoạt động ngoại tuyến mà không cần gửi dữ liệu lái xe nhạy cảm lên đám mây. Điều này cho thấy AI biên tinh gọn có thể cải thiện trải nghiệm trong khoang xe và tăng cường an toàn tương tác. Dự án sử dụng mô hình 1 tỷ tham số được tối ưu hóa cho thiết bị biên, cho phép chạy song song với phần cứng ADAS nhúng mà tốn ít bộ nhớ RAM. Tuy nhiên, các chỉ số chi tiết về độ trễ phản hồi và bảo đảm an toàn chức năng chưa được trình bày cụ thể.
## KIẾN THỨC NỀN
Hệ thống hỗ trợ người lái nâng cao (ADAS) là các công nghệ điện tử trên ô tô giúp giám sát môi trường xung quanh nhằm cảnh báo người lái hoặc can thiệp để tránh va chạm. Các mô hình ngôn ngữ nhỏ (SLM) khoảng 1 tỷ tham số là những mô hình AI tinh gọn được thiết kế để chạy cục bộ trên phần cứng công suất thấp mà không phụ thuộc vào đám mây hay GPU đắt tiền. Tích hợp SLM với phần cứng ADAS cho phép ô tô xử lý các câu lệnh giọng nói và thông tin lái xe trực tiếp trên chip nhúng.