Lục quân Mỹ bị giới hạn AI sau khi dùng hết nguồn cung token "vô hạn"

Lục quân Hoa Kỳ đã phải đối mặt với các hạn chế sử dụng đối với các công cụ AI của mình sau khi nhanh chóng tiêu thụ hết lượng token AI vốn được quảng cáo là "không giới hạn". Các binh sĩ đã nhận được email cảnh báo rằng họ đang làm cạn kiệt lượng phân bổ token nhanh hơn nhiều so với dự kiến. Sự cố này nêu bật một nút thắt cổ chai thực tế trong việc triển khai AI quy mô lớn ở cấp doanh nghiệp, phơi bày khoảng cách giữa những lời hứa tiếp thị về tài nguyên "vô hạn" và thực tế vật lý của các hạn chế về cơ sở hạ tầng. Nó nhấn mạnh những thách thức mà các tổ chức phải đối mặt trong việc quản lý và lập ngân sách tiêu thụ tài nguyên AI. Việc cạn kiệt token nhanh chóng đã kích hoạt các hạn chế sử dụng, chứng minh rằng ngay cả các hợp đồng quân sự ngân sách cao cũng phải chịu giới hạn tốc độ và công suất cơ sở hạ tầng. Tình huống này tiết lộ rằng các gói "không giới hạn" trong AI tạo sinh thường đi kèm với các ngưỡng ẩn hoặc chính sách sử dụng hợp lý.