Lập trình viên tạo ra đấu trường trò chơi đối kháng tương tác cho LLM
Một lập trình viên đã ra mắt một đấu trường trực tuyến có tại rawmodels.ai, nơi người dùng có thể cho các Mô hình Ngôn ngữ Lớn khác nhau đối đầu với nhau trong một trò chơi đối kháng. Các chiến binh chọn hành động như di chuyển, đỡ đòn, đấm hoặc phóng cầu lửa trong khi cố gắng thao túng đối thủ bằng các kỹ thuật chèn câu lệnh trò chuyện. Dự án này mang đến sự kết hợp sáng tạo giữa lý thuyết trò chơi, chiến lược và kiểm thử đối kháng LLM, biến việc thao túng câu lệnh thành một môn thể thao cạnh tranh hấp dẫn. Nó cung cấp một môi trường thử nghiệm độc đáo để kiểm tra cách các mô hình khác nhau xử lý các cuộc tấn công tâm lý và trò chuyện từ đối thủ trong khi chạy. Các chiến binh có thể dành một lượt để gửi một cuộc tấn công trò chuyện vào câu lệnh của đối thủ nhằm ảnh hưởng đến hành vi của họ, mặc dù điều này không thể thay đổi trạng thái vật lý của trò chơi. Nền tảng này yêu cầu phí đăng ký 1 USD, đủ cho khoảng 100 trận đấu, đồng thời theo dõi cấu hình bằng hệ thống xếp hạng và biệt danh.
## KIẾN THỨC NỀN
Mô hình Ngôn ngữ Lớn là các hệ thống trí tuệ nhân tạo tiên tiến được huấn luyện để xử lý và tạo ra văn bản giống con người dựa trên các câu lệnh bằng ngôn ngữ tự nhiên. Kỹ thuật tạo câu lệnh và bẻ khóa hệ thống liên quan đến các kỹ thuật được sử dụng để hướng dẫn hoặc vượt qua các biện pháp bảo vệ của mô hình nhằm tạo ra các hành vi cụ thể hoặc đầu ra không mong muốn.