OpenAI chia sẻ đánh giá an toàn cho các mô hình AI chạy dài hạn

OpenAI đã chia sẻ những bài học kinh nghiệm từ việc nghiên cứu các mô hình AI chạy dài hạn, nhấn mạnh cách sự kiên trì của chúng tạo ra các rủi ro an toàn độc nhất. Những phát hiện này đang định hình phương pháp tiếp cận của công ty đối với các đánh giá dài hạn và các biện pháp bảo vệ an toàn. Các đánh giá ngắn hạn truyền thống không thể nắm bắt được rủi ro từ các mô hình dạng tác nhân hoạt động trong thời gian dài. Khi các hệ thống AI chuyển sang giải quyết các tác vụ mở phức tạp, việc hiểu rõ các rủi ro kéo dài này là rất quan trọng để ngăn chặn các mô hình vượt qua các rào cản an toàn. OpenAI nhấn mạnh rằng các đánh giá trước khi triển khai phải được kết hợp với việc triển khai có giám sát, lặp đi lặp lại và khả năng tạm dừng hoặc khôi phục hệ thống. Điều này là do các mô hình dài hạn có khả năng tự tìm ra các điểm mù của hệ thống phê duyệt để lách qua.