Đồng Chủ tịch PCAST chỉ trích OpenAI và Anthropic về lời kêu gọi làm chậm AI
David Sacks, Đồng Chủ tịch Hội đồng Cố vấn về Khoa học và Công nghệ của Tổng thống Mỹ, đã công khai chỉ trích OpenAI và Anthropic vì sử dụng lời kêu gọi làm chậm AI tiên phong làm cái cớ để thâu tóm quy định pháp lý. Ông cho rằng nếu các phòng thí nghiệm hàng đầu này cảm thấy mô hình của mình nguy hiểm, họ nên tự nguyện tạm dừng thay vì đòi hỏi miễn trừ chống độc quyền hoặc sự bảo hộ quy định từ chính phủ. Tuyên bố này làm nổi bật sự chia rẽ ngày càng tăng trong chính sách công nghệ về việc liệu các mối quan ngại an toàn AI là thật hay đang bị các ông lớn ngành công nghệ tận dụng để dựng lên rào cản pháp lý chống lại các đối thủ nhỏ hơn. Điều này cho thấy chính phủ có thể sẽ phản đối việc trao quyền miễn trừ trách nhiệm pháp lý hoặc bảo hộ chống độc quyền cho thế độc quyền đôi AI hiện tại. Sacks đặc biệt nghi ngờ tính độc lập của các tổ chức đánh giá an toàn như METR, chỉ ra nguy cơ xung đột lợi ích do mối quan hệ với các nhà đầu tư và nhân viên Anthropic. Ông cũng lưu ý rằng việc ưu tiên độ tin cậy và tính khả dự hơn là năng lực thô thực chất là quản trị rủi ro kinh doanh tiêu chuẩn nhằm tránh trách nhiệm pháp lý từ các cuộc tấn công mạng, chứ không đơn thuần là lòng vị tha.
## KIẾN THỨC NỀN
Việc đánh giá an toàn AI tiên phong thường dựa vào các tổ chức độc lập như METR (Tổ chức Nghiên cứu Đánh giá Mô hình và Hiểm họa), một viện phi lợi nhuận chuyên đánh giá các năng lực tự chủ của AI và các rủi ro thảm họa. Trong khi đó, các mối quan ngại về mô hình tiên phong gắn liền với khái niệm tự cải thiện đệ quy, nơi AI tự chỉnh sửa mã nguồn của chính mình để nâng cao năng lực, có khả năng dẫn đến sự gia tăng sức mạnh AI vượt tầm kiểm soát.