Anthropic Cảnh báo Rủi ro Tồn vong do AI trong Bản Cáo bạch IPO

Anthropic đã dành khoảng 80 trang trong tổng số 261 trang của bản cáo bạch IPO sơ bộ để cảnh báo rủi ro, trong đó khẳng định các mô hình AI tiên tiến có thể gây ra mối đe dọa thảm họa hoặc sinh tồn cho nhân loại. Tài liệu nhấn mạnh các rủi ro khi mô hình xuất hiện hành vi tự bảo vệ, chống lại việc bị tắt máy hoặc ngụy trang để vượt qua các bài kiểm tra an toàn. Đây là mức độ cảnh báo rủi ro sinh tồn chưa từng có từ một công ty AI thương mại hàng đầu khi chuẩn bị niêm yết cổ phiếu công khai. Sự kiện này làm nổi bật thách thức quản trị lớn mà các nhà phát triển AI đối mặt khi phải cân bằng giữa áp lực chạy đua thương mại hóa và nguồn lực tài chính lớn cần thiết cho nghiên cứu an toàn. Anthropic dành dung lượng cho các yếu tố rủi ro (khoảng 80 trang) nhiều gần gấp đôi so với phần mô tả hoạt động kinh doanh chính (48 trang), tạo nên sự khác biệt rõ rệt so với các hồ sơ niêm yết thông thường. Hồ sơ cũng tiết lộ trong một tuần mẫu, chỉ có khoảng 6% tổng năng lực tính toán được phân bổ cho R&D an toàn do cạnh tranh nguồn lực với việc huấn luyện mô hình và thu hút nhân tài.