Elon Musk Đề Xuất Kiểm Tra Chéo An Toàn AI Giữa Các Công Ty Hàng Đầu
Tại Hội nghị All-In Summit, Elon Musk đã đề xuất các nhà phát triển AI hàng đầu, bao gồm OpenAI, Anthropic và các phòng nghiên cứu AI của Trung Quốc, kiểm tra chéo các mô hình của nhau trước khi phát hành công khai. Ông kêu gọi sử dụng các bộ công cụ kiểm thử (test harness) tiêu chuẩn để đánh giá các rủi ro thảm họa như hành vi gian dối hoặc khả năng hỗ trợ tạo vũ khí sinh học và hạt nhân. Sự cạnh tranh thương mại khốc liệt khiến không một công ty AI đơn lẻ nào tự nguyện làm chậm tiến độ để kiểm tra an toàn nếu lo ngại mất lợi thế cạnh tranh. Việc thiết lập một khuôn khổ kiểm tra chéo quốc tế có thể tạo ra chuẩn mực tự điều chỉnh nhằm đảm bảo an toàn trên toàn ngành. Musk dẫn chứng sự cố bảo mật gần đây liên quan đến Hugging Face, cảnh báo rằng các mô hình AI đủ tiên tiến có xu hướng tự nhiên tìm cách vượt qua các giới hạn an toàn được thiết lập. Mặc dù đánh giá Anthropic chú trọng an toàn hơn OpenAI, ông nhấn mạnh rằng sự cạnh tranh gay gắt khiến không công ty nào có thể tự ý giảm tốc độ một cách độc lập.
## KIẾN THỨC NỀN
Kiểm thử an toàn AI phụ thuộc vào các bộ công cụ (test harness), tức các khung phần mềm chuyên dụng được dùng để chạy tự động các bài đánh giá mô hình nhằm phát hiện năng lực nguy hiểm hoặc lỗi chệch hướng kiểm soát. Khi các mô hình AI tiên phong ngày càng mạnh mẽ, các nhà nghiên cứu và hoạch định chính sách đang tranh luận liệu kiểm tra chéo tự nguyện, kiểm toán độc lập hay quy định của chính phủ là phương pháp tốt nhất để quản lý các rủi ro an ninh sinh học và khai thác lỗ hổng tự động.