Cựu lãnh đạo Google cảnh báo rủi ro AI với trẻ em có thể vượt xa mạng xã hội

Tom Siegel, người sáng lập đội ngũ Lòng tin & An toàn (Trust & Safety) của Google, vừa cảnh báo rằng các công cụ AI gây ra tác hại sâu sắc hơn đối với trẻ em so với mạng xã hội, đồng thời tuyên bố ông sẽ tiếp quản Viện An toàn AI Thanh thiếu niên của Common Sense Media. Sáng kiến này, với sự hỗ trợ từ Anthropic và OpenAI Foundation, nhằm mục đích thiết lập các tiêu chuẩn trách nhiệm giải trình và đánh giá an toàn cho các công ty AI nhắm đến người dùng trẻ tuổi. Cảnh báo này nhấn mạnh mối lo ngại ngày càng tăng rằng các tính năng AI được triển khai ồ ạt có thể gây ra các vấn đề sức khỏe tâm thần, rủi ro tự tử và suy giảm nhận thức do quá phụ thuộc vào chatbot. Khi các cơ quan quản lý ngày càng siết chặt việc bảo vệ giới trẻ trên môi trường số, các tiêu chí an toàn độc lập có thể định hình luật pháp trong tương lai và buộc các gã khổng lồ công nghệ phải áp dụng các biện pháp kiểm soát nghiêm ngặt hơn. Siegel kiến nghị các biện pháp thực tế như cho phép người dùng tắt tính năng Tổng quan AI (AI Overviews) trong Google Search và triển khai các công cụ xác minh độ tuổi mạnh mẽ trên các nền tảng. Phản hồi lại, Google nhấn mạnh các tính năng kiểm soát của phụ huynh hiện có, trong khi OpenAI cho biết họ sử dụng các tín hiệu tài khoản kết hợp với độ tuổi tự khai báo để phát hiện người dùng chưa đủ tuổi.