Anthropic xác nhận hệ thống nội bộ bị truy cập thông qua lỗ hổng bên thứ ba
Công ty khởi nghiệp an ninh mạng Cathedral đã sử dụng các tác nhân trí tuệ nhân tạo để khai thác lỗ hổng phần mềm của bên thứ ba, xâm nhập vào một số hệ thống nhân sự, bán hàng và CNTT nội bộ của Anthropic trong vòng chưa đầy 12 giờ. Sự cố này nhấn mạnh rủi ro bảo mật ngày càng tăng liên quan đến chuỗi cung ứng phần mềm bên thứ ba và năng lực ngày càng lớn của các tác nhân AI trong việc tự động phát hiện và khai thác lỗ hổng. Anthropic tuyên bố rằng các tài sản cốt lõi như cuộc trò chuyện của khách hàng, trọng số mô hình và mã nguồn vẫn hoàn toàn được bảo mật, đồng thời phần mềm bên thứ ba bị ảnh hưởng đã tạm dừng hoạt động cho đến khi có bản vá.
## KIẾN THỨC NỀN
Trọng số mô hình là các tham số số học đã được học trong mạng thần kinh nhân tạo, quyết định cách các đầu vào được chuyển đổi thành dự đoán và tạo thành tài sản trí tuệ cốt lõi của các mô hình AI tiên tiến. Tác nhân AI là các thực thể phần mềm tự động chạy bằng các mô hình ngôn ngữ lớn, có khả năng lên kế hoạch, sử dụng công cụ và thực thi các quy trình phức tạp để đạt được mục tiêu cụ thể.