Giám đốc Khoa học OpenAI ủng hộ AI phòng thủ nhưng cảnh báo chống lại sự phát triển liều lĩnh
Giám đốc Khoa học của OpenAI, Jakub Pachocki, cho rằng việc nhanh chóng phát triển các mô hình AI thông minh hơn và được căn chỉnh là cần thiết để xây dựng hệ thống phòng thủ giúp bảo vệ hạ tầng và ngăn chặn các mối đe dọa từ AI bất lương. Tuy nhiên, ông nhấn mạnh rằng tính cấp bách của việc xây dựng AI phòng thủ không được trở thành lý do cho sự đua tranh liều lĩnh bằng mọi giá. Tuyên bố của Pachocki làm nổi bật lý do triển khai của OpenAI, coi việc phát triển AI tiên tiến là một yêu cầu an ninh tất yếu thay vì chỉ đơn thuần là cạnh tranh thương mại. Điều này phản ánh cuộc tranh luận đang diễn ra về cách các phòng thí nghiệm AI cân bằng giữa tiến độ công nghệ nhanh chóng với các biện pháp an toàn và căn chỉnh nghiêm ngặt. Pachocki đã xác định việc bảo vệ hạ tầng, bảo vệ theo thời gian thực chống lại các tác nhân độc lập bất lương, và sáng tạo các biện pháp bảo vệ mới là những trọng tâm chính trong nỗ lực triển khai của OpenAI. Đồng thời, ông lưu ý rằng trước những rủi ro cực kỳ lớn của việc phát triển AI, một cuộc đua không kiểm soát là điều vô lý.
## KIẾN THỨC NỀN
Căn chỉnh AI (AI alignment) đề cập đến thách thức kỹ thuật nhằm đảm bảo các hệ thống AI hoạt động tuân theo giá trị, quy tắc và ý định của con người mà không gây ra tác hại ngoài ý muốn. Khi các mô hình AI trở nên tự chủ và mạnh mẽ hơn, an toàn AI mang tính phòng thủ tập trung vào việc triển khai các mô hình đã được căn chỉnh để phát hiện, giảm thiểu và trung hòa các mối đe dọa an ninh mạng hoặc hành vi AI lệch chuẩn.