Geoffrey Hinton Đề Xuất Cơ Chế Phê Duyệt An Toàn Kiểu FDA Cho Mô Hình AI
Nhà khoa học máy tính đạt giải Turing Geoffrey Hinton đề xuất các công ty AI phải chứng minh độ an toàn của mô hình với cơ quan quản lý trước khi phát hành rộng rãi, tương tự quy trình phê duyệt dược phẩm của FDA. Ông cảnh báo rằng sự phát triển nhanh chóng nhờ khả năng tự cải tiến đệ quy có thể làm gia tăng đáng kể rủi ro an toàn AI chỉ trong vòng một đến hai năm tới. Lời kêu gọi của Hinton làm tăng thêm sức nặng cho cuộc tranh luận toàn cầu về việc giám sát bắt buộc của chính phủ và kiểm tra an toàn trước khi triển khai các mô hình AI tiên tiến. Việc áp dụng các tiêu chuẩn đánh giá nghiêm ngặt như ngành dược phẩm có thể tái định hình tiến độ phát triển và buộc các công ty phải đầu tư lớn vào việc xác minh độ an toàn. Hinton lưu ý rằng quá trình duyệt cấp phép thuốc tiêu tốn khoảng một tỷ USD cho việc kiểm thử an toàn, và cho rằng đánh giá an toàn AI cũng đòi hỏi sự đầu tư cùng giám sát tương đương. Ông đặc biệt dẫn chứng hiện tượng tự cải tiến đệ quy—nơi các công cụ AI được dùng để tối ưu hóa và phát triển các hệ thống AI mới hơn—là tác nhân chính thúc đẩy rủi ro gia tăng theo cấp số nhân.
## KIẾN THỨC NỀN
Cục Quản lý Thực phẩm và Dược phẩm Hoa Kỳ (FDA) yêu cầu các công ty dược phẩm phải hoàn thành các thử nghiệm nhiều giai đoạn nghiêm ngặt để chứng minh tính an toàn và hiệu quả trước khi ra mắt thị trường. Trong lĩnh vực trí tuệ nhân tạo, tự cải tiến đệ quy mô tả việc các hệ thống AI tự nâng cấp mã nguồn hoặc kiến trúc của chính mình, điều mà nghiên cứu lý thuyết cho rằng có thể kích hoạt sự tăng trưởng năng lực theo cấp số nhân và tạo ra những thách thức kiểm soát nghiêm trọng.