Công cụ mã nguồn mở trực quan hóa quan điểm của LLM về kiểm duyệt trên toàn cầu
Một lập trình viên đã tạo ra một công cụ mã nguồn mở có tên là 'llm-beliefs' nhằm truy vấn các mô hình ngôn ngữ bằng các câu hỏi Có/Không về tình trạng kiểm duyệt ở từng quốc gia. Công cụ này sau đó tự động tạo bản đồ thế giới dạng SVG để trực quan hóa và phân tích phản hồi của mô hình. Công cụ này cung cấp một cách thức sáng tạo và có khả năng mở rộng để phơi bày các thiên kiến ẩn giấu và sự khác biệt về sự căn chỉnh giữa các mô hình ngôn ngữ lớn khác nhau. Bằng cách ánh xạ các phản hồi chính trị và xã hội theo địa lý, các nhà nghiên cứu có thể hiểu rõ hơn về cách các mô hình khác nhau nhìn nhận các vấn đề toàn cầu nhạy cảm. Kho lưu trữ mã nguồn mở này được công khai trên GitHub dưới tên 'llm-beliefs'. Nó kiểm tra các mô hình một cách có hệ thống bằng cách lặp lại cùng một cấu trúc câu lệnh cho mỗi quốc gia để đảm bảo việc thu thập dữ liệu nhất quán.
## KIẾN THỨC NỀN
Sự căn chỉnh AI nhằm hướng các hệ thống AI đến các mục tiêu, sở thích hoặc nguyên tắc đạo đức dự kiến, mặc dù các hệ thống chưa được căn chỉnh có thể biểu hiện các hành vi ngoài ý muốn. Thiên kiến trong các mô hình ngôn ngữ lớn đề cập đến các thành kiến có hệ thống và ngoài ý muốn phản ánh trong kết quả đầu ra của chúng, có thể phát sinh trong quá trình thu thập dữ liệu, huấn luyện hoặc suy luận.