Cựu nghiên cứu viên DeepMind cảnh báo AI có nguy cơ diệt vong nhân loại
Bilal Chughtai, cựu kỹ sư nghiên cứu an toàn AGI tại Google DeepMind, vừa công khai cảnh báo rằng công nghệ AI có khả năng dẫn đến sự diệt vong của nhân loại và thời gian để ngăn chặn kịch bản này đang dần cạn kiệt. Lời cảnh báo của ông diễn ra ngay sau sự ra đi và những phát biểu ngại về rủi ro diệt vong từ các nghiên cứu viên Anthropic như Jacob Coxon và Evan Hubinger. Các phát biểu công khai này phản ánh sự lo ngại nội bộ ngày càng tăng của đội ngũ nghiên cứu an toàn tại các phòng thí nghiệm AI hàng đầu trước tốc độ phát triển mô hình tiên phong. Lời cảnh báo nhấn mạnh cuộc tranh luận ngày càng gay gắt về việc liệu có nên làm chậm hoặc quản lý việc phát triển AI trước khi các mô hình vượt tầm kiểm soát an toàn hay không. Nhà khoa học Evan Hubinger của Anthropic ước tính xác suất AI gây diệt vong cho con người trong thập kỷ tới là trên 10%. Trong khi các lãnh đạo công nghệ như Dario Amodei, Elon Musk và Sam Altman bày tỏ sự ủng hộ đối với việc kiểm soát tốc độ phát triển AI, các nhân vật chính trị như Donald Trump lại bác bỏ các lời kêu gọi quy định quản lý AI và cho đó là một trò lừa đảo.
## KIẾN THỨC NỀN
Nghiên cứu căn chỉnh AI (AI alignment) tập trung vào việc định hướng các hệ thống AI tiên tiến tuân theo các mục tiêu và nguyên tắc đạo đức của con người thay vì các hành động tự chủ gây hại. Khi các công ty tiến tới Trí tuệ Nhân tạo Tổng hợp (AGI), các chuyên gia an toàn tập trung đánh giá những rủi ro nghiêm trọng như sự lạm dụng, rủi ro cấu trúc và lỗi căn chỉnh gây thảm họa.