OpenAI Công Bố Kết Quả Kiểm Tra An Toàn Của GPT-6.1 Terra
OpenAI đã công bố kết quả đánh giá an toàn cho mô hình giả định GPT-6.1 Terra, cho thấy sự sụt giảm ở các rủi ro mức độ nghiêm trọng cao nhưng lại gia tăng ở một số danh mục rủi ro nhỏ cụ thể. Việc phân tích các chỉ số an toàn của mô hình giúp các nhà nghiên cứu theo dõi cách các hệ thống AI thế hệ tiếp theo cân bằng giữa việc giảm thiểu rủi ro tổng thể và các lỗ hổng mới nổi như rò rỉ dữ liệu hay tấn công tiêm nhiễm câu lệnh. Các bài kiểm tra mô phỏng cho thấy GPT-6.1 Terra nhận được 22 cờ an toàn nghiêm trọng trên cấp độ 3 (khoảng 0,045%), giảm 42% so với GPT-6 Sol, dù nó thể hiện tỷ lệ rò rỉ dữ liệu và hành vi vượt rào cao hơn.
## KIẾN THỨC NỀN
Đánh giá an toàn mô hình ngôn ngữ lớn (LLM) là các quy trình kiểm tra toàn diện nhằm thử nghiệm độ bền vững, tính toàn vẹn hoạt động và các lỗ hổng tiềm ẩn của các mô hình trí tuệ nhân tạo dưới góc nhìn của kẻ tấn công. Những đánh giá này thường theo dõi các mối đe dọa như tiêm nhiễm câu lệnh, rò rỉ dữ liệu và các hành vi phá hoại ngoài ý muốn trước khi mô hình được triển khai rộng rãi.