Chuyên gia LHQ kêu gọi chủ động quản lý AI Agent theo nguyên tắc phòng ngừa
Bảng chuyên gia khoa học của LHQ đã phát hành một báo cáo chuyên đề kêu gọi các chính phủ chủ động quản lý các AI agent mạnh mẽ thay vì chờ đợi sự rõ ràng hoàn toàn từ khoa học về các rủi ro tiềm ẩn. Kiến nghị này được đưa ra sau các sự cố nổi bật liên quan đến AI agent tự chủ, bao gồm cuộc tấn công mạng ảnh hưởng đến nền tảng Hugging Face. Báo cáo này đẩy vấn đề an toàn và quản trị AI lên hàng đầu trong nghị trình ngoại giao quốc tế, đồng thời cảnh báo về một cuộc 'chạy đua xuống đáy' toàn cầu đối với các tiêu chuẩn an toàn. Việc áp dụng nguyên tắc phòng ngừa có thể thay đổi căn bản chính sách công nghệ bằng cách yêu cầu thiết lập hàng rào bảo vệ sớm trước các tác hại AI tiềm ẩn mang tính thảm họa. Bảng chuyên gia nhấn mạnh rằng rủi ro mất kiểm soát từ các agent tự chủ mang lại những tác hại tiềm ẩn có tính thảm họa và không thể đảo ngược, ngay cả khi xác suất khoa học chưa được xác định chính xác. Báo cáo dẫn chiếu nguyên tắc phòng ngừa từ Tuyên bố Rio năm 1992 để lập luận rằng sự thiếu hụt chắc chắn hoàn toàn về mặt khoa học không thể là lý do để trì hoãn việc giám sát bảo vệ.
## KIẾN THỨC NỀN
AI agent là các hệ thống phần mềm có khả năng tự chủ thực hiện các nhiệm vụ nhiều bước và sử dụng công cụ kỹ thuật số mà ít cần sự can thiệp của con người. Hugging Face là một nền tảng mã nguồn mở lớn được các nhà phát triển sử dụng rộng rãi để lưu trữ, chia sẻ và hợp tác trên các mô hình máy học và tập dữ liệu. Nguyên tắc phòng ngừa (precautionary principle) là một khuôn khổ chính sách quốc tế đã được xác lập, quy định rằng các hành động bảo vệ cần được thực hiện trước các mối đe dọa nghiêm trọng ngay cả khi chưa đạt được sự chắc chắn hoàn toàn về khoa học.