Tranh luận về việc Đạo luật EU Kids Act có thể nhắm vào các mô hình AI mở trọng số

Một bài đăng trên diễn đàn Reddit r/LocalLLaMA đã dấy lên mối lo ngại liệu các luật bảo vệ trẻ em sắp tới, chẳng hạn như Đạo luật EU Kids Act, có thể bị lợi dụng làm cớ để hạn chế các mô hình AI mở trọng số hay không. Thảo luận này phản ánh sự lo lắng gia tăng trong cộng đồng mã nguồn mở rằng các luật an toàn kỹ thuật số có thể siết chặt việc phân phối AI cục bộ không qua kiểm duyệt. Các mô hình mở trọng số trao quyền cho các nhà phát triển và nghiên cứu độc lập chạy AI tại cục bộ mà không cần sự giám sát trung ương, khiến chúng dễ bị ảnh hưởng bởi các quy định an toàn diện rộng. Nếu các luật an toàn cho trẻ em yêu cầu bộ lọc nội dung trung tâm hoặc xác minh độ tuổi nghiêm ngặt, việc triển khai AI mã nguồn mở có thể phải đối mặt với những thách thức pháp lý lớn tại Liên minh Châu Âu. Dự thảo Đạo luật EU Kids Act tập trung vào an toàn mạng cho trẻ em thông qua giới hạn độ tuổi dùng mạng xã hội, cơ chế xác nhận độ tuổi, tiêu chuẩn an toàn từ khâu thiết kế và quy định đối với ứng dụng AI đồng hành. Những người chỉ trích lo ngại các nhà quản lý có thể tranh luận rằng các mô hình mở trọng số có thể tải về sẽ bỏ qua các rào cản an toàn này do người dùng có thể can thiệp tháo bỏ hàng rào bảo vệ trên phần cứng riêng.