Chuyên gia chỉ trích đề xuất quản trị AI kiểu ngân hàng của CEO Anthropic vì thiếu quyền thực thi

CEO Dario Amodei của Anthropic đã đề xuất nhúng các bên đánh giá an toàn độc lập thứ ba vào các phòng thí nghiệm AI tiên phong, lấy cảm hứng trực tiếp từ các thanh tra giám sát ngân hàng. Tuy nhiên, các chuyên gia quy định ngân hàng và an toàn AI tranh luận rằng đề xuất này thiếu thẩm quyền pháp lý mang tính ràng buộc, khiến các nhà đánh giá không thể dừng hoặc tạm hoãn việc huấn luyện và triển khai các mô hình rủi ro. Tranh cãi này làm nổi bật vết nứt ngày càng lớn trong chính sách công nghệ giữa các đề xuất tự điều chỉnh của doanh nghiệp và trách nhiệm pháp lý thực sự đối với các phòng thí nghiệm AI tiên phong. Nếu không có thẩm quyền thực thi độc lập hoặc các tiêu chuẩn pháp lý rõ ràng, các nhà chỉ trích cảnh báo những sáng kiến như vậy có nguy cơ trở thành 'tẩy trắng kiểm toán' giúp che chắn cho các nhà phát triển AI thống trị khỏi sự quản lý thực chất. Chuyên gia quy định ngân hàng Julie Andersen Hill lưu ý rằng các thanh tra ngân hàng thực sự sở hữu quyền hành chính để buộc thay đổi quản trị hoặc dừng hoạt động kinh doanh, trong khi các nhà đánh giá được Amodei đề xuất chỉ có thể điều tra và công bố báo cáo. Các nhà chỉ trích cũng dấy lên lo ngại về xung đột lợi ích mang tính cấu trúc, chỉ ra rằng các đơn vị đánh giá bên thứ ba như METR tuyển dụng cựu nhân sự của các phòng thí nghiệm và hoạt động trong phạm vi do chính các nhà phát triển AI quy định.