CEO Nvidia Jensen Huang bảo vệ AI mã nguồn mở và kỹ thuật chưng cất mô hình
Trong một cuộc phỏng vấn với Axios, CEO Nvidia Jensen Huang đã lên tiếng bảo vệ AI mã nguồn mở và kỹ thuật chưng cất mô hình, lập luận rằng việc các mô hình AI học hỏi từ các mô hình khác là một quy trình tự nhiên và cần thiết tương tự như cách con người học tập. Lập trường này có ý nghĩa quan trọng trong bối cảnh các cuộc tranh luận pháp lý và đạo đức xung quanh phương pháp huấn luyện AI đang diễn ra, cho thấy việc hạn chế chia sẻ kiến thức giữa các mô hình có thể làm chậm tiến trình và mức độ ứng dụng của toàn ngành. Ông Huang nhấn mạnh rằng khi AI tạo ra phần lớn nội dung trên internet, các hệ thống sẽ tự nhiên học hỏi lẫn nhau, đồng thời lập luận rằng việc coi chưng cất mô hình là hành vi trộm cắp là sai lầm vì AI thông minh hơn cuối cùng sẽ mang lại lợi ích cho toàn ngành.
## KIẾN THỨC NỀN
Chưng cất tri thức (knowledge distillation) là một kỹ thuật học máy trong đó một mô hình "học sinh" nhỏ hơn, gọn nhẹ hơn được huấn luyện để tái tạo hành vi và dự đoán của một mô hình "giáo viên" lớn hơn, phức tạp hơn. Quy trình này cho phép các nhà phát triển tạo ra các mô hình hiệu quả, đòi hỏi ít tài nguyên tính toán hơn nhưng vẫn giữ được phần lớn khả năng của mô hình gốc.