Các bước suy luận ẩn của LLM nguồn đóng có thể bị khôi phục hoàn toàn
Một nghiên cứu mới mang tên "Stealing Reasoning Traces from Proprietary LLM APIs" chỉ ra rằng các chuỗi suy luận ẩn (chain-of-thought) từ các nhà cung cấp LLM nguồn đóng có thể bị khôi phục hoàn toàn. Nghiên cứu nhấn mạnh lỗ hổng trong cách các nhà cung cấp gửi trả các chuỗi này về phía máy khách thay vì lưu trữ an toàn trên máy chủ. Lỗ hổng này đe dọa tài sản trí tuệ của các nhà cung cấp AI vốn ẩn các bước suy luận để ngăn chặn việc sao chép và tinh chỉnh mô hình. Nó cũng cho phép người dùng vượt qua các bộ lọc an toàn hoặc phân tích logic chính xác đằng sau các câu trả lời của AI. Nghiên cứu tiết lộ rằng thay vì giữ các chuỗi suy luận hoàn toàn ở phía máy chủ, một số nhà cung cấp API lại truyền chúng về máy khách dưới dạng có thể khôi phục được. Điều này cho phép các nhà nghiên cứu có khả năng tái cấu trúc các tập dữ liệu khổng lồ chứa các chuỗi suy luận chất lượng cao từ các mô hình tiên tiến.
## KIẾN THỨC NỀN
Kỹ thuật chuỗi suy luận (chain-of-thought) là phương pháp giúp LLM tạo ra các bước tư duy trung gian để giải quyết các vấn đề phức tạp một cách chính xác. Để bảo vệ công nghệ độc quyền và ngăn đối thủ huấn luyện mô hình dựa trên các bước suy luận này, các nhà cung cấp như OpenAI thường ẩn các bước trung gian đó khỏi kết quả đầu ra của người dùng.