Salesforce áp dụng ngân sách token AI theo vị trí công việc để kiểm soát chi phí
Salesforce đã bắt đầu thiết lập ngân sách token AI hàng tháng cho các vị trí công việc khác nhau sau khi phát hiện một số nhân viên tiêu tốn hàng nghìn đô la mỗi tháng. Theo chính sách mới, ngân sách hàng tháng được phân bổ dựa trên vai trò cụ thể, dao động từ 1.000 USD cho nhân viên kỹ thuật mảng kinh doanh đến 100 USD cho nhân viên phi kỹ thuật. Động thái này phản ánh xu hướng đang nổi lên khi các doanh nghiệp lớn phải vật lộn với chi phí vận hành cao khi triển khai các mô hình ngôn ngữ lớn nội bộ. Nó minh họa cách các công ty cố gắng cân bằng giữa việc kiểm soát chi phí nghiêm ngặt và duy trì năng suất của nhân viên trong kỷ nguyên AI doanh nghiệp. Trong một tháng thử nghiệm ban đầu tại một nhóm của Salesforce, việc điều chỉnh này đã giúp chi phí thực tế thấp hơn đáng kể so với ngân sách mà không làm ảnh hưởng đến hiệu quả công việc. Các công ty công nghệ khác như Coinbase và JPMorgan cũng từng áp dụng các hạn mức chi phí hàng tháng tương tự cho công cụ AI và lập trình của nhân viên.
## KIẾN THỨC NỀN
Các mô hình ngôn ngữ lớn xử lý văn bản bằng cách chia nhỏ chúng thành các phần gọi là token, và người dùng phải trả tiền cho nhà cung cấp dựa trên khối lượng token đã xử lý. Khi các doanh nghiệp tích hợp các trợ lý AI tiên tiến và các tác nhân lập trình vào quy trình làm việc hàng ngày, mức tiêu thụ token có thể tích lũy nhanh chóng, dẫn đến các khoản chi phí doanh nghiệp đáng kể.