Đồng sáng lập Google Sergey Brin tuyên bố AI đang bắt đầu tự xây dựng chính mình

Đồng sáng lập Google Sergey Brin thông báo tại một buổi thảo luận bàn tròn về mô hình Gemini 4 Argon rằng AI đang bước vào giai đoạn "tự cải thiện đệ quy" (RSI), trong đó các mô hình giúp xây dựng thế hệ kế tiếp của chúng. Ông lưu ý rằng dòng mô hình Flash và các quy trình phát triển hiện tại của Google đã cho thấy AI đang đảm nhận các tác vụ như viết mã và sửa lỗi. Sự chuyển dịch này đánh dấu một cột mốc quan trọng trong quá trình phát triển AI, tạo ra hiệu ứng bánh đà giúp AI đẩy nhanh tốc độ tạo ra các mô hình kế nhiệm có năng lực cao hơn. Tuy nhiên, nó cũng dấy lên những lo ngại cấp thiết về an toàn liên quan đến việc liệu con người có thể duy trì quyền kiểm soát đối với các công nghệ đang tự cải thiện với tốc độ chóng mặt hay không. Báo cáo an toàn của Google dành cho Gemini 4 Argon tiết lộ rằng các tác nhân AI hiện xử lý phần lớn công việc viết mã sản xuất và sửa lỗi, mặc dù việc đánh giá của con người vẫn là bắt buộc trước khi các thay đổi được cam kết. Nghiên cứu trong ngành cho thấy các giai đoạn RSI tương tự có thể mở rộng rộng rãi tại các phòng thí nghiệm AI hàng đầu trong vòng 3 đến 12 tháng tới.