Thảo Luận Reddit Đánh Giá Các LLM Mã Nguồn Mở Cho Sáng Tác Văn Học

Một người dùng Reddit trên r/LocalLLaMA đã mở cuộc thảo luận về việc sử dụng các mô hình mã nguồn mở để viết tiểu thuyết dài tập, chia sẻ đánh giá thực tế về các bản tinh chỉnh như Gemma 31B Mero-mero-v2 và các biến thể Qwen 27B. Người đăng cũng chia sẻ việc sử dụng một hệ thống tự động dựa trên Pi để loại bỏ các văn phong rập khuôn của AI và duy trì tính nhất quán của nhân vật. Các điểm số benchmark AI tiêu chuẩn thường tập trung mạnh vào lập trình và tư duy kỹ thuật, vô tình bỏ qua chất lượng văn phong tinh tế cũng như sự phong phú về phong cách cần thiết cho sáng tác văn học. Cuộc thảo luận này minh họa cách các nhà văn kết hợp mô hình mã nguồn mở với các quy trình tự sửa lỗi để tránh sự kiểm duyệt thương mại và nâng cao chất lượng tác phẩm. Người đăng lưu ý rằng các bản tinh chỉnh của Gemma 31B mang lại văn phong vượt trội và ít bị kiểm duyệt hơn so với các bản tinh chỉnh Qwen 27B vốn tuân thủ lệnh tốt nhưng văn phong lại khô khan. Ngoài ra, tác giả nhấn mạnh rằng các LLM chạy cục bộ vẫn cần dàn ý và gợi ý cảnh chi tiết do con người viết để tránh rơi vào lối kể chuyện rập khuôn.