TLDR Sec #348: Trình quét PageBreak của Google và công cụ bảo mật Numbat của Perplexity
Bản tin TLDR Sec số 348 nổi bật với trình quét PageBreak của Google sử dụng agent AI kết hợp xác thực định tính, cùng với Numbat - công cụ mã nguồn mở của Perplexity giúp giám sát hành vi agent AI trên thiết bị đầu cuối. Bản tin cũng đề cập đến hướng dẫn bảo mật từ NCSC của Anh về việc phòng thủ trước các mối đe dọa từ agent AI. Khi các agent AI tự vận hành ngày càng được triển khai nhiều trên thiết bị đầu cuối và ứng dụng web, các đội ngũ bảo mật cần những công cụ chuyên dụng để quan sát hành vi của agent và loại bỏ ảo giác từ AI. Việc kết hợp khả năng tìm lỗ hổng bằng LLM với xác thực định tính giúp giảm thiểu báo động giả và hỗ trợ doanh nghiệp áp dụng các quy trình làm việc tự động một cách an toàn. Dự án PageBreak của Google kết hợp agent LLM với các công cụ quét truyền thống để đạt tỷ lệ báo động giả gần như bằng 0, phát hiện hơn 500 lỗ hổng thực tế thông qua việc xác thực bằng chứng khai thác tự động. Trong khi đó, công cụ Numbat viết bằng Go của Perplexity cung cấp khả năng quan sát cục bộ, chặn trước hành động và dựng lại dấu vết pháp lý cho hoạt động của agent AI trên hệ điều hành macOS, Linux và Windows.
## KIẾN THỨC NỀN
Các công cụ quét bảo mật tự động dựa trên Mô hình Ngôn ngữ Lớn (LLM) thường gặp phải tỷ lệ báo động giả cao do hiện tượng ảo giác của mô hình. Xác thực định tính (deterministic validation) giải quyết vấn đề này bằng cách yêu cầu bằng chứng thực thi có thể tái lập trước khi xác nhận lỗ hổng tồn tại. Đồng thời, sự gia tăng của các agent AI cục bộ thực hiện hành động thay mặt người dùng tạo ra những thách thức bảo mật thiết bị đầu cuối mà các công cụ diệt virus truyền thống chưa được thiết kế để giám sát.