Anthropic phát triển FlashProve để xác thực mã hóa đầu ra của mô hình AI
Anthropic đang phát triển một hệ thống mã nguồn mở mang tên FlashProve nhằm xác thực bằng toán học xem mô hình AI cụ thể nào đã tạo ra một đầu ra nhất định. Hệ thống này cung cấp bằng chứng có thể kiểm chứng về danh tính mô hình mà không làm lộ trọng số mô hình độc quyền. Sự phát triển này giải quyết vấn đề lòng tin và trách nhiệm giải trình trong các dịch vụ AI bằng cách ngăn chặn các nhà cung cấp âm thầm tráo đổi các mô hình rẻ hơn hoặc thao túng kết quả đánh giá. Nó cho phép xác minh minh bạch rằng người dùng đang nhận được phản hồi từ chính xác các mô hình mà họ đã trả phí. FlashProve tạo ra một 'dấu vân tay' mô hình có thể khớp với các đầu ra cụ thể, cho phép người dùng tự xác thực trên thiết bị cục bộ. Mặc dù Anthropic đã công bố các thông số kỹ thuật ban đầu và mã nguồn mở trên GitHub, kế hoạch triển khai vẫn chưa được chốt.
## KIẾN THỨC NỀN
Các mô hình AI phụ thuộc rất lớn vào các tham số nội bộ độc quyền gọi là trọng số, được các công ty bảo vệ như bí mật thương mại để duy trì lợi thế cạnh tranh. Việc xác minh đầu ra của mô hình bằng mật mã mà không làm lộ các trọng số này là một thách thức lớn tại giao điểm giữa an toàn AI và mật mã học ứng dụng.