Làm rõ những hiểu lầm về chưng cất mô hình trong LLM nguồn mở
Một cuộc thảo luận trong cộng đồng chỉ ra rằng việc huấn luyện các mô hình nguồn mở trên dữ liệu văn bản tổng hợp từ các API công khai có sự khác biệt về mặt kỹ thuật so với chưng cất tri thức thực sự, vốn đòi hỏi quyền truy cập trực tiếp vào các logit xác suất của mô hình gốc. Việc làm rõ sự khác biệt này giúp cộng đồng AI đánh giá chính xác năng lực của các mô hình nguồn mở, thách thức định kiến cho rằng hiệu năng của chúng chỉ đơn thuần là sao chép từ các hệ thống độc quyền. Chưng cất thực sự truyền tải tri thức bằng cách sử dụng phân phối logit, trong khi các API công khai chỉ cung cấp các kết quả hoàn thiện văn bản đã bị lọc bởi các rào cản an toàn và từ chối phản hồi.
## KIẾN THỨC NỀN
Chưng cất tri thức (knowledge distillation) là một kỹ thuật học máy trong đó một mô hình 'học sinh' nhỏ hơn được huấn luyện để tái tạo hành vi của một mô hình 'giáo viên' lớn hơn. Logits đại diện cho các dự đoán thô, chưa chuẩn hóa do mô hình tạo ra trước khi chúng được chuyển đổi thành xác suất hoặc các token văn bản cuối cùng.