Báo cáo McKinsey cảnh báo AI agent có thể khiến chi phí doanh nghiệp gia tăng mạnh
Báo cáo gần đây của McKinsey cảnh báo việc triển khai các AI agent đa bước có thể làm chi phí doanh nghiệp tăng vọt ngoài dự kiến, với chi phí thực thi cho các tác vụ tương tự có thể chênh lệch tới 30 lần. Bên cạnh đó, khoảng 20% tổ chức được khảo sát cho biết chi phí dành cho AI đã bắt đầu gây áp lực lên ngân sách vận hành của họ. Mặc dù AI agent có thể giúp giảm từ 35% đến 70% thời gian xử lý công việc thủ công, các quy trình thực thi tự động đa bước của chúng tiêu tốn lượng token khổng lồ. Thực tế chi phí này buộc các doanh nghiệp phải đánh giá lại hiệu quả đầu tư (ROI) và áp đặt giới hạn sử dụng, chuyển ưu tiên của lãnh đạo công nghệ sang quản trị chi phí chặt chẽ. Các đội ngũ phát triển phần mềm sử dụng AI agent để tự động lập trình đối mặt với áp lực tài chính đặc biệt lớn do lượng tiêu thụ token rất cao. Để ứng phó với hóa đơn tăng vọt và việc sử dụng thiếu kiểm soát, các công ty lớn như Amazon, Coinbase và Salesforce đã bắt đầu giới hạn mức độ sử dụng AI của nhân viên.
## KIẾN THỨC NỀN
Khác với các chatbot LLM cơ bản chỉ tạo phản hồi văn bản, các AI agent tự hành có thể tự lập kế hoạch hành động, gọi công cụ phần mềm bên ngoài và thực thi các quy trình làm việc đa bước. Tuy nhiên, vì mỗi bước trong vòng lặp agent đòi hỏi nhiều lượt gọi API LLM lặp đi lặp lại, các quy trình chưa được tối ưu hóa có thể khiến lượng tiêu thụ token và tổng chi phí suy luận (inference cost) tăng vọt.