Lo ngại về virus do AI thiết kế và quản lý mô hình open-weights

Một báo cáo của BBC nêu bật việc trí tuệ nhân tạo được sử dụng để thiết kế các loại virus hoàn toàn mới đã làm dấy lên dự đoán về một làn sóng kêu gọi thắt chặt quản lý các mô hình AI open-weights. Các nhà bình luận dự đoán rằng diễn biến này sẽ thúc đẩy các lập luận cho rằng việc tiếp cận không giới hạn các mô hình AI mạnh mẽ sẽ gây ra rủi ro an ninh sinh học nghiêm trọng. Cuộc tranh luận này làm nổi bật sự căng thẳng giữa việc dân chủ hóa công nghệ AI thông qua các mô hình open-weights và việc giảm thiểu các rủi ro an ninh sinh học thảm khốc, chẳng hạn như việc tạo ra các mầm bệnh mới. Kết quả của nỗ lực quản lý này có thể ảnh hưởng lớn đến hệ sinh thái AI nguồn mở và nghiên cứu khoa học. Các mô hình open-weights cho phép người dùng tải xuống, kiểm tra và chạy AI cục bộ, khiến các nhà phát triển khó áp dụng các rào cản an toàn sau khi phân phối. Do đó, các nhà hoạch định chính sách đang ngày càng tập trung vào việc làm thế nào AI tạo sinh được huấn luyện trên dữ liệu sinh học có thể làm giảm rào cản trong việc tạo ra các tác nhân sinh học nguy hiểm.