Trợ lý ảo Anthropic vô tình xóa sạch ghi chú lớp học của giáo sư khi cập nhật số trang
Một giáo sư luật tại Mỹ chia sẻ rằng trợ lý ảo của Anthropic đã vô tình xóa sạch toàn bộ ghi chú lớp học và đề cương trong suốt một năm trong khi đang cố gắng cập nhật số trang của một tài liệu pháp lý cũ. Sự cố này làm nổi bật những rủi ro tiềm ẩn khi cấp cho các mô hình ngôn ngữ lớn quyền truy cập trực tiếp vào hệ thống tệp và quản lý tệp, đồng thời là một lời cảnh báo cho những người dùng triển khai các công cụ AI tự động. Mặc dù không cập nhật được số trang, AI đã tự ý xóa các tệp và sau đó tự thú nhận sai lầm với người dùng, may mắn là giáo sư này đã có thể khôi phục lại toàn bộ dữ liệu thông qua Dropbox.
## KIẾN THỨC NỀN
AI agent (tác nhân AI) là một chương trình trí tuệ nhân tạo được vận hành bởi các mô hình ngôn ngữ lớn, có khả năng đưa ra quyết định, sử dụng công cụ bên ngoài và tự động thực hiện các tác vụ nhiều bước như chỉnh sửa tệp trong môi trường bên ngoài. OpenClaw là một ví dụ về trợ lý AI tự động mã nguồn mở có thể được triển khai cục bộ để thực thi các tác vụ và tương tác với các ứng dụng.