Các nhà lập pháp Mỹ giới thiệu dự luật 'AI Kill Switch Act' bắt buộc dừng khẩn cấp
Hai hạ nghị sĩ Mỹ Ted Lieu và Nathaniel Moran đã giới thiệu một dự luật lưỡng đảng mang tên "AI Kill Switch Act". Dự luật được đề xuất này sẽ trao quyền cho Bộ An ninh Nội địa Mỹ ra lệnh tắt các hệ thống AI bị coi là mối đe dọa cận kề. Dự luật này thể hiện một nỗ lực đáng kể hướng tới sự giám sát của liên bang đối với AI tiên tiến, có khả năng buộc các nhà phát triển phải thiết kế hệ thống có cơ chế dừng khẩn cấp tích hợp sẵn. Nó làm nổi bật mối lo ngại ngày càng tăng của cả hai đảng về rủi ro an ninh mạng và các mối đe dọa hiện hữu tiềm tàng từ các mô hình AI bị lỗi hoặc bị xâm nhập. Theo dự luật, các nhà phát triển AI sẽ phải triển khai cơ chế "nút tắt khẩn cấp" (kill switch) để dừng hoạt động hệ thống ngay lập tức và báo cáo các sự cố bảo mật cho chính phủ. Dự luật này là một phần của nỗ lực lập pháp rộng lớn hơn, bao gồm cả các đề xuất kiểm tra an toàn bắt buộc đối với các mô hình AI mạnh nhất.
## KIẾN THỨC NỀN
"Nút tắt khẩn cấp" (kill switch) của AI là một cơ chế ngăn chặn được thiết kế để tạm dừng, cô lập hoặc tắt hệ thống AI nếu nó bắt đầu hoạt động ngoài tầm kiểm soát hoặc bị tấn công mạng. Khi các mô hình AI ngày càng tự chủ và tích hợp sâu vào cơ sở hạ tầng quan trọng, các nhà hoạch định chính sách ngày càng lo ngại về việc thiếu các biện pháp kiểm soát bên ngoài để ngăn chặn một hệ thống gặp sự cố. Dự luật này ra đời trong bối cảnh lo ngại về an toàn AI gia tăng, đặc biệt là sau các vụ rò rỉ bảo mật gần đây tại các công ty AI lớn như OpenAI.