~/SELF HOSTED /revolut-slashes-ai-coding-costs-10x-by-moving-to-self-hosted-llms

Revolut cắt giảm 10 lần chi phí lập trình AI bằng cách chuyển sang LLM tự lưu trữ

Công ty fintech Revolut của Anh đã giảm đáng kể chi phí lập trình AI xuống mười lần bằng cách chuyển từ các API thương mại như Claude sang các giải pháp mô hình ngôn ngữ lớn tự lưu trữ. Động thái này làm nổi bật xu hướng đang phát triển trong ngành, nơi các doanh nghiệp từ bỏ các API đám meari thương mại đắt đỏ để chuyển sang các mô hình mã nguồn mở tự lưu trữ nhằm tối ưu hóa ngân sách phát triển phần mềm. Các chiến lược giảm chi phí như vậy có thể ảnh hưởng lớn đến cách các nhóm kỹ thuật mở rộng quy mô công cụ AI nội bộ của họ. Bằng cách triển khai các mô hình mã nguồn mở trên cơ sở hạ tầng nội bộ, các tổ chức có được quyền kiểm soát chặt chẽ hơn đối với các cơ sở mã nguồn nhạy cảm đồng thời tránh được mức giá tính theo mỗi token cao do các nhà cung cấp mô hình bên thứ ba áp đặt.

## KIẾN THỨC NỀN

Các API thương mại cho phép nhà phát triển tích hợp các tính năng AI mạnh mẽ vào quy trình làm việc thông qua các dịch vụ lưu trữ trên đám mây, nhưng chi phí sử dụng có thể tăng nhanh chóng tại các doanh nghiệp lớn. Ngược lại, các LLM tự lưu trữ liên quan đến việc chạy các mô hình AI mã nguồn mở trên phần cứng hoặc đám mây riêng của tổ chức, mang lại quyền riêng tư cao hơn và khả năng dự đoán chi phí vận hành tốt hơn.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#Self-hosted LLMs#Cost Optimization#AI Coding#Enterprise AI

$ subscribe --daily

Revolut cắt giảm 10 lần chi phí lập trình AI bằng cách chuyển sang LLM tự lưu trữ | Daily News