Các lãnh đạo AI ủng hộ lời kêu gọi làm chậm tốc độ phát triển AI tiên phong của CEO Anthropic
CEO Dario Amodei của Anthropic đã kêu gọi ngành công nghiệp làm chậm tốc độ phát triển các mô hình AI tiên phong và cấp quyền truy cập vĩnh viễn ở cấp độ nhân viên cho bên thứ ba độc lập để giám sát an toàn và căn chỉnh. Các nhà lãnh đạo ngành như Elon Musk (xAI) và Sam Altman (OpenAI) đã công khai ủng hộ đề xuất này, trong đó Altman cam kết OpenAI cũng sẽ áp dụng cơ chế cho phép bên thứ ba truy cập. Điều này thể hiện sự đồng thuận hiếm hoi giữa các gã khổng lồ AI đối thủ về việc kiểm soát tốc độ phát triển năng lực và chấp nhận sự giám sát an toàn từ bên ngoài. Nó báo hiệu một bước chuyển tiềm năng hướng tới việc tự điều chỉnh thống nhất trong toàn ngành và các cơ chế quản trị toàn cầu khi các mô hình AI ngày càng trở nên mạnh mẽ hơn. Amodei cảnh báo rằng các cụm AI không bị ràng buộc có thể biến thành các mạng botnet diện rộng trên internet gây ra thiệt hại thảm khốc trong vòng 6 đến 12 tháng tới. Khung đề xuất của ông phác thảo việc giám sát độc lập trong quá trình huấn luyện, các quy định an toàn ngành thống nhất và việc thành lập một cơ quan quản lý toàn cầu.
## KIẾN THỨC NỀN
Các mô hình AI tiên phong (frontier AI) là những mô hình nền tảng tiên tiến nhất, đòi hỏi sức mạnh tính toán khổng lồ để huấn luyện và có khả năng suy luận phức tạp trên nhiều dạng dữ liệu. Đảm bảo căn chỉnh AI (AI alignment) — việc định hướng các hệ thống mạnh mẽ này hoạt động nhất quán với mục tiêu và đạo đức của con người mà không nảy sinh các hành vi lừa dối hay mất an toàn — là một thách thức cốt lõi trong nghiên cứu an toàn AI.