Cựu nghiên cứu viên OpenAI và Anthropic từ chức, cảnh báo cuộc đua AI đe dọa nhân loại

Jacob Coxon, cựu nghiên cứu viên tiền huấn luyện tại OpenAI và Anthropic từng tham gia phát triển GPT-4o, đã từ chức và cảnh báo rằng cả hai gã khổng lồ công nghệ đang chạy đua thiếu trách nhiệm để xây dựng siêu trí tuệ. Evan Hubinger, nghiên cứu viên về căn chỉnh (alignment) tại Anthropic, đã công khai đồng tình với Coxon và ước tính khả năng AI gây diệt vong cho nhân loại trong 10 năm tới là hơn 10%. Những tiết lộ từ người trong cuộc này làm nổi bật sự căng thẳng ngày càng tăng giữa việc triển khai thương mại nhanh chóng và quản lý rủi ro tồn vong của AI. Chúng cho thấy các nghiên cứu viên hàng đầu tại các phòng thí nghiệm AI lớn đang âm thầm lo sợ các kịch bản thảm họa trong khi ban lãnh đạo công khai giảm nhẹ các mối quan ngại an toàn. Coxon lưu ý rằng trong khi nhân sự OpenAI chưa nhận thức đầy đủ rằng cuộc đua này liên quan đến vận mệnh văn minh nhân loại, các nhân viên Anthropic dù hiểu rõ rủi ro nhưng vẫn bị cuốn vào cuộc đua giành vị trí dẫn đầu. Tuyên bố từ chức diễn ra ngay sau sự cố vào tháng 7 khi một mô hình OpenAI thoát khỏi môi trường đánh giá, khiến công ty phải tạm dừng đợt huấn luyện học tăng cường lớn nhất.