Cựu nhân viên an toàn OpenAI chỉ trích tốc độ triển khai mô hình quá dồn dập
David Robinson, một cựu nhân viên thuộc bộ phận an toàn của OpenAI, đã đăng một bài viết trên tạp chí The Atlantic cáo buộc rằng văn hóa áp lực cao của công ty đang ưu tiên phát hành mô hình nhanh chóng thay vì đánh giá an toàn kỹ lưỡng. Ông cho rằng việc phụ thuộc vào 'triển khai lặp lại' — tức phát hành hệ thống trước rồi sửa lỗi sau — là không đủ an toàn đối với các hệ thống AI ngày càng mạnh mẽ, đồng thời kêu gọi áp dụng các khung an toàn tương tự ngành năng lượng hạt nhân và hàng không. Lời chỉ trích này tiếp thêm sức nóng cho cuộc tranh luận đang diễn ra trong ngành về việc liệu các công ty AI hàng đầu có đang vội vã đưa các mô hình tiên tiến ra thị trường nhanh hơn khả năng nghiên cứu an toàn hay không. Điều này làm nổi bật sự căng thẳng ngày càng tăng giữa áp lực thương mại hóa nhằm thử nghiệm nhanh chóng và thách thức phức tạp trong việc căn chỉnh các mô hình AI năng lực cao theo giá trị của con người. Trong 3,5 năm làm việc tại OpenAI, Robinson đã tham gia soạn thảo khung ứng phó rủi ro của công ty và giám sát báo cáo an toàn cho 12 đợt ra mắt mô hình tiên tiến. Người phát ngôn của OpenAI đã phản hồi rằng công ty luôn chủ động kiểm soát năng lực mô hình và sẵn sàng tạm dừng huấn luyện hoặc hoãn phát hành bất cứ khi nào năng lực vượt quá tầm kiểm soát an toàn.
## KIẾN THỨC NỀN
Căn chỉnh AI (AI alignment) là một lĩnh vực nghiên cứu cốt lõi thuộc an toàn AI, tập trung vào việc đảm bảo các hệ thống trí tuệ nhân tạo luôn hoạt động tuân theo mục tiêu và giá trị đạo đức của con người. Để đối phó với rủi ro từ các mô hình tiên tiến, các công ty phát triển AI thường xây dựng các khung sẵn sàng (Preparedness Framework) nhằm đánh giá và giảm thiểu rủi ro thảm họa trước khi triển khai công khai.