Các nhà nghiên cứu an toàn của OpenAI phủ nhận cáo buộc làm rò rỉ bí mật
Ba cựu nhà nghiên cứu an toàn của OpenAI đã bác bỏ các cáo buộc làm rò rỉ thông tin mật, đồng thời cho rằng việc họ bị sa thải thực chất là hành vi trả đũa vì đã lên tiếng ủng hộ tính minh bạch của AI và việc duy trì các bước suy luận có thể kiểm chứng. Cuộc tranh chấp nổi bật này làm nổi bật căng thẳng ngày càng tăng giữa các phòng thí nghiệm AI hàng đầu và các nhà nghiên cứu an toàn xung quanh vấn đề trách nhiệm giải trình của doanh nghiệp, kiểm toán độc lập và việc đàn áp bất đồng quan điểm nội bộ. Những xung đột như vậy có nguy cơ làm nhụt chí các bên hợp tác an toàn bên ngoài và làm suy yếu quản governance của trí tuệ nhân tạo tiên tiến. OpenAI đã điều tra các nhà nghiên cứu vì tình nghi chia sẻ chi tiết kiến trúc mô hình nội bộ qua ứng dụng Signal với một nhà nghiên cứu bên ngoài, mặc dù công ty khẳng định ứng dụng nhắn tin này không phải là lý do sa thải. Ba nhà nghiên cứu đã gửi thư cho ban quản trị OpenAI kêu gọi tăng cường hợp tác với các tổ chức an toàn độc lập.
## KIẾN THỨC NỀN
Các mô hình suy luận sử dụng các vùng đệm nội bộ gọi là chuỗi tư duy (chain of thought) để ghi lại các bước giải quyết vấn đề trung gian, giúp các nhà nghiên cứu hiểu cách AI đưa ra kết luận. Tuy nhiên, một số phòng thí nghiệm gần đây đã khám phá việc giảm bớt các bước có thể nhìn thấy này ở các mô hình mới hơn, gây ra tranh cãi trong ngành về vấn đề giám sát và tính minh bạch.