Nathan Lambert chỉ trích tranh luận phiến diện về rủi ro an ninh mạng của AI mở
Nhà nghiên cứu AI Nathan Lambert đã xuất bản bài viết lập luận rằng các cuộc thảo luận hiện nay về rủi ro an ninh mạng của AI đang mang nặng tính ý thức hệ và thiếu thực tế. Ông kêu gọi đánh giá khách quan về các đánh đổi xung quanh việc phát hành mô hình AI mở thay vì tranh luận cực đoan. Khi các nhà quản lý cân nhắc hạn chế mô hình AI mở do lo ngại an ninh mạng, việc chuyển hướng sang cân nhắc thực tế là rất quan trọng cho việc quản trị hiệu quả. Tiếp cận đa chiều này giúp tránh các quy định gây tổn hại cho đổi mới sáng tạo mở trong khi vẫn giải quyết các mối đe dọa thực sự. Bài viết nhấn mạnh rằng cả hai quan điểm cực đoan—coi mô hình mở là thảm họa hoặc hoàn toàn vô hại—đều không phản ánh đúng thực tế an ninh mạng. Lambert nhấn mạnh việc cân bằng giữa rủi ro phát tán mô hình với lợi ích phòng thủ mà mô hình mở mang lại cho các nhà nghiên cứu an ninh.
## KIẾN THỨC NỀN
Mô hình AI mở (open-weights) là các hệ thống học máy có trọng số được công khai, cho phép người dùng chạy và tùy chỉnh cục bộ. Mặc dù việc công khai giúp thúc đẩy nghiên cứu và phi tập trung hóa công nghệ, các nhà quản lý an toàn lo ngại rằng việc công khai trọng số khiến nhà phát triển không thể thu hồi truy cập nếu mô hình bị lợi dụng cho tấn công mạng.