Cựu nghiên cứu viên Anthropic: Việc huấn luyện lại Mythos hiện chỉ tốn một phần nhỏ điện toán
Cựu nghiên cứu viên của Anthropic và OpenAI, Jack Hawksworth, tiết lộ rằng sự tăng trưởng siêu cấp số nhân về hiệu quả thuật toán đồng nghĩa với việc huấn luyện lại các mô hình như Mythos giờ đây chỉ cần một phần nhỏ nguồn lực tính toán ban đầu. Tiết lộ này, vốn bắt nguồn từ một slide trong buổi roadshow IPO của Anthropic, đã góp phần thúc đẩy quyết định rời công ty của ông. Sự sụt giảm mạnh mẽ về nhu cầu tính toán này nhấn mạnh xu hướng tiến bộ thuật toán siêu cấp số nhân, có thể dân chủ hóa trí tuệ nhân tạo tiên tiến và biến trí thông minh đạt mức con người thành một loại hàng hóa phổ biến. Tuy nhiên, nó cũng làm gia tăng lo ngại về an toàn liên quan đến khả năng tự cải thiện nhanh chóng và có khả năng vượt ngoài tầm kiểm soát của các hệ thống AI tiên tiến, từ đó thúc đẩy lời kêu gọi tạm dừng phát triển các mô hình biên. Hawksworth lưu ý rằng các cải tiến thuật toán đang đến gần giai đoạn tự động hóa và ông chủ trương tạm dừng nghiên cứu AI biên vào năm tới để cho phép các đối thủ cạnh tranh có cơ hội bắt kịp. Trước đây, ông từng làm việc về mảng huấn luyện mô hình AI tại OpenAI và đã công khai cảnh báo vào tháng 9 về các rủi ro hiện sinh do các hệ thống AI tự trị tiên tiến gây ra.
## KIẾN THỨC NỀN
Mythos của Anthropic là một dòng mô hình ngôn ngữ lớn tiên tiến với các khả năng đáng chú ý trong việc phát hiện lỗ hổng phần mềm, an ninh mạng và sinh học, với quyền truy cập bị giới hạn nghiêm ngặt đối với các tổ chức được thẩm định. Các định luật mở rộng trong AI trước đây vốn cho rằng việc đạt được hiệu suất cao hơn đòi hỏi phải tăng cường khối lượng lớn tính toán và dữ liệu một cách thô bạo, nhưng các xu hướng gần đây cho thấy hiệu quả thuật toán đang làm giảm đáng kể các yêu cầu về phần cứng vật lý đó.