Thảo luận nhấn mạnh các lỗ hổng chuỗi cung ứng trong các công cụ suy luận và khung LLM
Một cuộc thảo luận nổi bật trong cộng đồng đã nhấn mạnh rủi ro đáng kể về các cửa hậu (backdoor) ẩn trong chuỗi cung ứng của các công cụ suy luận LLM và các khung trợ lý (agent harnesses) mã nguồn mở đang phát triển nhanh chóng. Bài viết cảnh báo rằng các yêu cầu kéo (pull request) độc hại trong các gói phần phụ thuộc của bên thứ ba có thể không bị phát hiện trong nhiều tháng hoặc nhiều năm. Cuộc thảo luận này nhấn mạnh các lỗ hổng bảo mật hệ thống trong cơ sở hạ tầng GenAI phát triển nhanh chóng, đồng thời vẽ ra những điểm tương đồng với các vụ vi phạm chuỗi cung ứng nghiêm trọng trong quá khứ như sự cố xz utils. Nó làm nổi bật cách mà các cây phụ thuộc phức tạp trong phần mềm AI khiến cho toàn bộ hệ sinh thái dễ bị tổn thương trước các hành vi giả mạo tinh vi. Tác giả lập luận rằng các kho lưu trữ có nhịp độ phát triển nhanh và vô số các phụ thuộc con tạo ra một môi trường lý tưởng cho các cuộc tấn công ngầm mà các trình quét mã tự động hoặc các mô hình LLM tiên tiến như Opus 5.5 khó có thể dễ dàng phát hiện. Lời chỉ trích chỉ ra cụ thể rằng các nhà bảo trì không nhất thiết phải có ý đồ xấu; chỉ cần một đóng góp trông có vẻ hợp pháp nhưng bị bỏ sót là có thể làm tổn hại toàn bộ cấu trúc.
## KIẾN THỨC NỀN
Khung trợ lý (agent harness), hay giàn giáo trợ lý (agent scaffolding), là cơ sở hạ tầng phần mềm bao quanh một mô hình ngôn ngữ lớn nhằm quản lý việc sử dụng công cụ, bộ nhớ và môi trường thực thi để biến một mô hình không có trạng thái thành một tác nhân AI hoạt động. Trong khi đó, các công cụ suy luận LLM đóng vai trò là xương sống hiệu suất để triển khai các mô hình AI tạo sinh bằng cách tối ưu hóa việc tạo token và tốc độ thực thi.