OpenAI, Anthropic và Google DeepMind hợp tác nghiên cứu an toàn AI
OpenAI, Anthropic và Google DeepMind đã tiến hành các cuộc thảo luận kéo dài nhiều tuần nhằm hợp tác về các biện pháp an toàn và tiêu chuẩn ngành cho AI. Sáng kiến chung này diễn ra trong bối cảnh mối lo ngại tại Mỹ tăng cao về các rủi ro tiềm ẩn của các hệ thống AI tiên tiến đối với kinh tế và an ninh quốc gia. Sự hợp tác này đánh dấu sự đồng thuận hiếm hoi giữa các đối thủ hàng đầu trong lĩnh vực AI nhằm ưu tiên giảm thiểu rủi ro thay vì chỉ chạy đua thương mại. Động thái này có thể đẩy nhanh việc tạo ra các bộ tiêu chuẩn an toàn chung và ảnh hưởng trực tiếp đến các luật về AI sắp tới tại Mỹ. Chris Lehane, Trưởng bộ phận Chính sách Toàn cầu của OpenAI, tuyên bố rằng việc phối hợp an toàn giữa các đối thủ không cần miễn trừ chống độc quyền, tương tự như lịch sử hợp tác an toàn trong ngành hàng không. Ngoài ra, CEO Dario Amodei của Anthropic gần đây đã xuất bản bài viết dài 3.800 từ kêu gọi làm chậm tốc độ phát triển AI tiên phong, nhận được sự ủng hộ từ CEO Sam Altman của OpenAI và Elon Musk.
## KIẾN THỨC NỀN
Các mô hình AI tiên phong (frontier AI) là những hệ thống trí tuệ nhân tạo mạnh mẽ vượt qua ranh giới năng lực kỹ thuật hiện tại. Khi các mô hình này mở rộng quy mô nhanh chóng, các nhà nghiên cứu và nhà hoạch định chính sách lo ngại về các rủi ro thảm họa, dẫn đến lời kêu gọi thiết lập các rào chắn pháp lý và quy chuẩn an toàn chung giữa các phòng thí nghiệm AI hàng đầu.