Các lãnh đạo ngành AI phát biểu tại Hội đồng Bảo an LHQ kêu gọi hợp tác an toàn AI
Các Tổng Giám đốc Sam Altman (OpenAI), Dario Amodei (Anthropic) và Clément Delanghe (Hugging Face) đã có cuộc xuất hiện chung hiếm hoi tại Hội đồng Bảo an Liên Hợp Quốc để kêu gọi sự hợp tác quốc tế về quản trị rủi ro và tiêu chuẩn an toàn AI. Bài phát biểu cấp cao này nhấn mạnh mối lo ngại ngày càng tăng về việc các hệ thống AI tiên tiến có thể vượt khỏi tầm kiểm soát của con người hoặc bị lợi dụng cho các rủi ro thảm khốc như vũ khí sinh học. Điều này phản ánh nỗ lực của các nhà phát triển AI hàng đầu nhằm định hình các khung giám sát toàn cầu và hợp nhất chính sách quốc tế với sự phát triển của ngành. Trong khi Altman và Amodei kêu gọi báo cáo nhanh các sự cố và đạt được đồng thuận quốc tế về bảo đảm an toàn, CEO Clément Delanghe của Hugging Face lại cảnh báo không nên lan truyền tâm lý sợ hãi, dẫn chứng việc nền tảng của ông đã dùng chính AI để tự bảo vệ thành công trước một cuộc tấn công do AI thực hiện gần đây.
## KIẾN THỨC NỀN
Hugging Face đóng vai trò là nền tảng hợp tác lớn cho cộng đồng AI để chia sẻ các mô hình học máy mã nguồn mở, tập dữ liệu và ứng dụng. Trong khi đó, sự xuất hiện nhanh chóng của các đại lý AI tự chủ—các hệ thống có khả năng tự đưa ra quyết định và thực hiện quy trình công việc phức tạp mà không cần sự can thiệp trực tiếp của con người—đã làm gia tăng các cuộc tranh luận xung quanh mối đe dọa an ninh mạng và quản trị an toàn AI.