Nhà phát triển ra mắt `llm-training-panel` để tinh chỉnh mô hình cục bộ trên AMD ROCm

Nhà phát triển /u/Honest-Fun-5279 đã phát hành `llm-training-panel`, một giao diện web cục bộ mã nguồn mở hỗ trợ tinh chỉnh và tiếp tục tiền huấn luyện các mô hình ngôn ngữ trên tập dữ liệu tùy chỉnh. Công cụ này nổi bật với khả năng trực quan hóa theo thời gian thực hoạt động gradient của từng tham số trong quá trình huấn luyện và hỗ trợ GPU AMD ROCm trên Linux. Hầu hết các công cụ tinh chỉnh AI mã nguồn mở hiện nay chỉ được tối ưu hóa cho nền tảng CUDA của NVIDIA, khiến người dùng GPU AMD có rất ít lựa chọn. Bằng cách hỗ trợ ROCm của AMD cùng với tính năng phân tích huấn luyện thời gian thực và so sánh đầu ra song song, công cụ này giúp việc tùy chỉnh mô hình cục bộ trở nên dễ tiếp cận và minh bạch hơn. `llm-training-panel` hỗ trợ tải mô hình từ thư mục cục bộ hoặc từ Hugging Face, đồng thời tích hợp tính năng thử nghiệm A/B câu lệnh (prompt) để so sánh đầu ra giữa mô hình gốc và mô hình đã tinh chỉnh. Công cụ này cũng bao gồm các tiện ích đánh giá tự động giúp chấm điểm khả năng gợi nhớ và mức độ trùng lặp văn bản so với các tệp kiểm tra.