Bộ nhớ lưu trữ không đổi trọng số có phải tự cải tiến đệ quy?

Một cuộc tranh luận về mặt khái niệm đã nổ ra xoay quanh việc liệu các hệ thống AI sử dụng bộ nhớ lưu trữ lâu dài để cải thiện các quyết định trong tương lai mà không thay đổi trọng số mô hình gốc có được phân loại là tự cải tiến đệ quy (RSI) hay không. Cuộc thảo luận nhấn mạnh các khung làm việc như AQuA, vốn lưu trữ các bằng chứng đã được xác thực trong một trạng thái nghiên cứu liên tục trong khi vẫn giữ nguyên mô hình ngôn ngữ cốt lõi. Việc xác định ranh giới của sự tự cải tiến đệ quy là rất quan trọng đối với an toàn AI và dự báo năng lực, vì RSI thực sự về mặt lý thuyết có thể dẫn đến sự bùng nổ trí tuệ. Việc nhầm lẫn giữa tự động hóa nghiên cứu được tăng cường bằng bộ nhớ với các cải tiến năng lực thực sự ở cấp độ trọng số có thể dẫn đến những kỳ vọng sai lệch về sự tự tiến hóa của AI. Hệ thống được đề cập, AQuA, tích lũy các bằng chứng đã được xác thực để định hướng cho các giả thuyết trong tương lai nhưng không thể hiện bất kỳ sự gia tăng năng lực nào ở cấp độ trọng số. Các nhà phê bình cho rằng thiết lập này gần với tự động hóa nghiên cứu được tăng cường bằng bộ nhớ hơn là một hệ thống tự viết lại mã nguồn hoặc kiến trúc của chính nó.