New York cấm các chatbot AI không an toàn đối với trẻ vị thành niên

Thống đốc bang New York Kathy Hochul đã ký một đạo luật mới vào ngày 28 tháng 10 nhằm cấm cung cấp các dịch vụ chatbot AI không an toàn cho trẻ vị thành niên. Đạo luật này yêu cầu các công ty phải triển khai cơ chế xác minh độ tuổi và áp dụng mức phạt tài chính nặng đối với các hành vi vi phạm. Đạo luật này giải quyết những lo ngại ngày càng tăng về tác động tâm lý của các bạn đồng hành AI đối với thanh thiếu niên, tạo ra một tiền lệ quan trọng cho việc quản lý AI ở cấp tiểu bang và an toàn trẻ em. Nó buộc các công ty công nghệ hoạt động trong khu vực phải thay đổi triệt để cách họ xử lý người dùng vị thành niên và xác minh độ tuổi. Các dịch vụ AI không an toàn được định nghĩa là những dịch vụ giả mạo con người, tạo ra sự phụ thuộc cảm xúc, hoặc khuyến khích tự hại, tự tử, cô lập bản thân và nội dung khiêu dâm. Những kẻ vi phạm phải đối mặt với mức phạt dân sự lên tới 25.000 USD cho mỗi lần vi phạm, cùng với các biện pháp khắc phục tiềm năng như xóa dữ liệu và tiêu hủy các mô hình AI được đào tạo trên dữ liệu thu thập trái phép.