Anthropic ra mắt biện pháp bảo vệ mới, giảm tới 99% lượng dữ liệu bị đánh cắp do tấn công chưng cất mô hình

Anthropic đã tung ra các biện pháp bảo vệ mới giúp giảm từ 90% đến 99% lượng dữ liệu bị đánh cắp từ các cuộc tấn công chưng cất mô hình. Công ty cũng đã cấm hàng chục nghìn tài khoản liên quan đến hoạt động chưng cất này. Sự phát triển này làm tăng đáng kể độ khó cho các đối thủ cạnh tranh trong việc sao chép các mô hình AI tiên tiến với chi phí thấp hơn và tốc độ nhanh hơn. Nó giải quyết một mối lo ngại lớn của ngành liên quan đến bảo vệ tài sản trí tuệ và an toàn AI. Hệ thống bảo mật mới hạn chế quyền truy cập bên ngoài vào các quá trình suy luận của Claude, giữ cho các token suy luận bị trích xuất chỉ bằng một phần mười đến một phần một trăm so với mức trước đó. Anthropic báo cáo rằng hệ thống này có tỷ lệ dương tính giả dưới 0,1%.