Chi phí đắt đỏ của LLM thế hệ mới chấm dứt thời kỳ nâng cấp miễn phí

Nhà bình luận công nghệ Drew Breunig nhấn mạnh rằng chi phí đắt đỏ của các mô hình tiên tiến thế hệ mới như 'Fable' của Anthropic đã chấm dứt kỷ nguyên nâng cấp mô hình tự động giá rẻ. Các nhà phát triển không còn có thể dựa vào các mô hình mới hơn, rẻ hơn để tự động khắc phục sự cố ứng dụng, buộc họ phải chủ động quản lý việc định tuyến tác vụ. Sự thay đổi này đánh dấu bước chuyển dịch trong kỹ nghệ AI từ việc tiêu thụ thụ động các cải tiến mô hình thô sang tối ưu hóa chủ động các chiến lược ngữ cảnh và khung vận hành (coding harness). Các nhà phát triển giờ đây phải thiết kế kiến trúc đa mô hình (multi-LLM) để định tuyến các tác vụ đơn giản đến các mô hình rẻ hơn, và chỉ dành các mô hình tiên tiến đắt đỏ cho các tác vụ cực kỳ phức tạp. Mặc dù 'Fable' mang lại những khả năng đáng kinh ngạc, các mô hình cũ hơn hoặc rẻ hơn như Opus, 5.6, K3 và GLM vẫn "đủ tốt" cho phần lớn các tác vụ lập trình. Do đó, các nhà phát triển đang tập trung vào "kỹ nghệ khung vận hành" (harness engineering) và định tuyến tối ưu chi phí để duy trì hiệu suất ứng dụng mà không làm tăng vọt chi phí API.