Báo cáo KPMG: Gần một nửa giám đốc cắt giảm AI Agent do chi phí cao

Một báo cáo từ KPMG tiết lộ rằng gần một nửa số giám đốc điều hành doanh nghiệp đã cắt giảm hoặc tạm dừng triển khai các AI Agent. Nguyên nhân chính dẫn đến quyết định này là chi phí vận hành cao ngoài dự kiến khi duy trì các hệ thống tự vận hành này. Xu hướng này làm nổi bật sự chuyển dịch từ làn sóng kỳ vọng ban đầu về AI tạo sinh sang thực tế kinh tế, buộc các công ty phải tìm kiếm các giải pháp tiết kiệm chi phí hơn. Điều này có thể thúc đẩy việc áp dụng các mô hình ngôn ngữ lớn (LLM) mã nguồn mở chạy cục bộ vốn có chi phí vận hành thấp hơn so với các API độc quyền. Mặc dù các AI Agent có thể tự động hóa các quy trình công việc phức tạp, việc chúng phụ thuộc vào các truy vấn LLM liên tục và mô hình định giá theo token thường dẫn đến các khoản chi phí khó lường và không bền vững. Do đó, các tổ chức đang đánh giá lại các chỉ số ROI trước khi quyết định triển khai trên quy mô lớn.