Nghị sĩ Mỹ đề xuất dự luật cấm AI tự cải thiện đệ quy khi chưa được cấp phép

Hạ nghị sĩ Mỹ Ro Khanna đã đề xuất dự luật 'Human Control Over AI Act' (Đạo luật Kiểm soát của Con người đối với AI), cấm các mô hình AI tự cải thiện đệ quy khi chưa có sự phê duyệt an toàn từ chính phủ. Đạo luật đề xuất thành lập một cơ quan liên bang mới để quản lý các mô hình AI tiên phong, thực hiện kiểm toán an toàn và bắt buộc cấp phép trước khi đào tạo cũng như triển khai. Đề xuất này đại diện cho một trong những nỗ lực pháp lý nghiêm ngặt nhất về an toàn AI tại Mỹ, trao quyền định hướng chính sách AI cho các nhà nghiên cứu độc lập thay vì các lãnh đạo công nghệ. Nếu được thông qua, luật sẽ áp dụng trách nhiệm pháp lý nghiêm khắc—bao gồm hình phạt hình sự và bảo hiểm trách nhiệm bắt buộc—đối với các nhà phát triển có mô hình vượt khỏi tầm kiểm soát của con người. Dự luật yêu cầu các phòng thí nghiệm AI tiên phong phải sử dụng kiểm toán viên độc lập báo cáo trực tiếp cho cơ quan quản lý, áp dụng cơ chế cách ly vật lý (air-gapping), cài đặt công tắc ngắt khẩn cấp và giám sát việc sử dụng phần cứng nâng cao. Hành vi vô hiệu hóa tính năng an toàn hoặc cố tình triển khai các hệ thống nguy cơ cao chưa được cấp phép sẽ đối mặt với án phạt hình sự nặng nề, thậm chí truy cứu tội ác chống lại loài người nếu gây ra thảm họa cho dân thường.