Nhà nghiên cứu cáo buộc OpenAI dùng trò chuyện của người dùng để tuyên bố đột phá toán học

Một nhà toán học tuyên bố trên Mastodon rằng OpenAI đã huấn luyện các mô hình của mình dựa trên các cuộc trò chuyện ChatGPT chứa các khái niệm toán học mới và sau đó công bố các đột phá mà không ghi nhận nguồn hợp lý. Cáo buộc này làm nổi bật mối lo ngại rằng các ý tưởng do người dùng gửi trong các truy vấn riêng tư đang bị hấp thụ trực tiếp vào tập dữ liệu huấn luyện mô hình. Tình huống này nhấn mạnh căng thẳng ngày càng tăng về việc ghi nhận công lao nghiên cứu, sở hữu trí tuệ và nhiễm bẩn dữ liệu trong AI tạo sinh. Khi các nhà nghiên cứu sử dụng trợ lý AI để động não về các công trình chưa xuất bản, các công ty có nguy cơ tự nhận các đột phá khoa học mà họ không tạo ra nếu đường ống huấn luyện hấp thụ và tái tạo các ý tưởng do người dùng cung cấp. Vấn đề bắt nguồn từ các bài đăng của nhà toán học Andreas Thom trên Mathstodon mô tả chi tiết các trường hợp các khái niệm mới xuất hiện trong đầu ra của OpenAI sau khi được chia sẻ trong các phiên ChatGPT. Mặc dù ChatGPT mặc định bật tính năng chia sẻ dữ liệu để huấn luyện mô hình, những người chỉ trích cho rằng các nhà phát triển AI vẫn phải chịu trách nhiệm học thuật và đạo đức trong việc kiểm tra rò rỉ dữ liệu huấn luyện trước khi công bố các tuyên bố nghiên cứu.