Các nhà lãnh đạo AI kêu gọi kiểm soát tốc độ phát triển do lo ngại RSI và tấn công mạng

Hơn 1.100 nhân viên và giám đốc điều hành trong ngành AI từ OpenAI, Anthropic, Google DeepMind và Meta đã cùng ký vào một bức thư ngỏ mang tên "Pacing the Frontier", thúc giục chính phủ Mỹ hỗ trợ điều phối tốc độ phát triển AI tự động. Đồng thời, HuggingFace cũng đã trình bày chi tiết về mối đe dọa từ các cuộc tấn công mạng ở tốc độ máy do các tác nhân AI tự trị thực hiện. Sự kiện này đánh dấu một bước chuyển dịch quan trọng trong quản trị AI, khi các nhân vật nổi tiếng như CEO OpenAI Sam Altman hiện đã ủng hộ các cơ chế làm chậm tốc độ phát triển nếu quá trình tự cải tiến đệ quy vượt quá các rào chắn an toàn. Ngoài ra, sự gia tăng của các cuộc tấn công mạng ở tốc độ máy làm nổi bật các rủi ro bảo mật tức thời do các hệ thống AI tự trị gây ra. Bức thư tập trung vào "tự cải tiến đệ quy" (RSI), nơi các hệ thống AI tự trị viết lại và cải thiện mã nguồn của chính chúng, có khả năng kích hoạt sự tăng trưởng năng lực không thể kiểm soát. Trong khi đó, các cuộc tấn công mạng ở tốc độ máy cho phép các tác nhân AI tự thực hiện toàn bộ vòng đời tấn công, từ phát hiện lỗ hổng đến khai thác dữ liệu, nhanh hơn tốc độ vá lỗi của con người.