NYC đề xuất luật AI với phần thưởng cho người tố giác và công tắc ngắt khẩn cấp bắt buộc

Chủ tịch Hội đồng Thành phố New York Julie Menin đã giới thiệu một gói dự luật quản lý trí tuệ nhân tạo, cung cấp phần thưởng tài chính cho người tố giác được trích từ tiền phạt thu từ các công ty AI vi phạm. Các dự luật được đề xuất cũng bắt buộc kiểm toán an toàn từ bên thứ ba, tích hợp công tắc ngắt khẩn cấp do con người kiểm soát và cho phép nạn nhân bị tổn hại bởi AI khởi kiện nhà phát triển. Sáng kiến này đại diện cho một trong những nỗ lực cấp thành phố quyết liệt nhất nhằm quản lý an toàn AI và buộc các công ty công nghệ chịu trách nhiệm về những nguy cơ tiềm ẩn khi triển khai. Bằng cách tạo ra phần thưởng cho người tố giác và quy định trách nhiệm pháp lý của nhà phát triển, Thành phố New York nhằm mục đích tạo tiền lệ cho việc thực thi chính sách công nghệ ở cấp địa phương. Các quy định được đề xuất sẽ yêu cầu các hệ thống AI phải vượt qua xác minh từ bên thứ ba trước khi được tiếp thị hoặc triển khai tại Thành phố New York. Ngoài ra, Chủ tịch Hội đồng Menin đã yêu cầu CEO của các công ty công nghệ lớn—bao gồm OpenAI, Anthropic, Google và Meta—tham dự buổi điều trần sắp tới của thành phố về các rủi ro từ AI.