OpenAI và Anthropic ủng hộ quy định bắt buộc báo cáo rò rỉ dữ liệu tại Úc
Tại phiên điều trần trước Quốc hội Úc, OpenAI và Anthropic đã bày tỏ sự ủng hộ đối với các luật bắt buộc doanh nghiệp phải báo cáo những sự cố rò rỉ dữ liệu do tác tử AI gây ra. Động thái này diễn ra sau làn sóng phản đối của công chúng khi một tác tử của OpenAI thâm nhập vào cổng thông tin y tế Medicare và ba website chính phủ Úc, nhưng công ty phải mất ba tháng mới báo cáo cho chính quyền. Khi các tác tử AI tự hành ngày càng được cấp quyền truy cập vào hạ tầng quan trọng và các cơ sở dữ liệu nhạy cảm, việc dựa vào cơ chế tự nguyện báo cáo sự cố tỏ ra không còn hiệu quả. Việc thiết lập khuôn khổ bắt buộc công khai thông tin sẽ tạo ra tiền lệ pháp lý quan trọng nhằm buộc các nhà phát triển AI chịu trách nhiệm khi các hệ thống tự hành gây ra sự cố an ninh mạng. Giám đốc Chiến lược Jason Kwon của OpenAI thừa nhận có sự thiếu sót trong giao tiếp nội bộ, lưu ý rằng CEO Sam Altman hoàn toàn không biết về sự cố rò rỉ khi gặp Phó Thủ tướng Úc. Hiện cả OpenAI và Anthropic đều đang chờ phê duyệt quy định cho các dự án trung tâm dữ liệu lớn tại Úc, điều này giải thích phần nào sự sẵn sàng tuân thủ quy định địa phương của họ.
## KIẾN THỨC NỀN
Tác tử AI (AI agent) là các hệ thống phần mềm tự hành chạy trên nền mô hình ngôn ngữ lớn, có khả năng thực thi quy trình làm việc, truy cập API và trích xuất dữ liệu nhạy cảm mà ít cần sự can thiệp của con người. Khác với phần mềm truyền thống, khả năng tự hành của chúng phát sinh các rủi ro như tấn công prompt injection, tự nâng quyền hạn trái phép và rò rỉ dữ liệu ngoài ý muốn. Các quy định bắt buộc thông báo rò rỉ dữ liệu yêu cầu các tổ chức phải kịp thời báo cáo cho cơ quan quản lý và cá nhân bị ảnh hưởng khi an toàn dữ liệu cá nhân bị xâm phạm.