Oracle gặp khó khăn trong ứng dụng AI nội bộ dù chi hàng tỷ USD cho hạ tầng

Dù chi hàng tỷ USD cung cấp hạ tầng AI cho khách hàng bên ngoài, các lãnh đạo Oracle thừa nhận việc triển khai nội bộ các công cụ AI như ChatGPT Enterprise và Codex gặp nhiều trở ngại. Dù AI rút ngắn thời gian viết code từ vài quý xuống còn một tuần, nó lại đẩy điểm nghẽn sang khâu kiểm thử, triển khai và quản lý chi phí mô hình. Trải nghiệm của Oracle phản ánh một thực tế quan trọng trong việc áp dụng AI ở doanh nghiệp: viết code nhanh hơn không tự động giúp ra mắt sản phẩm nhanh hơn. Các công ty cần cải tổ lại toàn bộ quy trình kỹ thuật phần mềm phía sau và thiết lập các biện pháp kiểm soát chi phí API mô hình ngôn ngữ lớn để tránh hóa đơn tăng vọt. Oracle đã phải thiết lập cơ chế giám sát chi phí nội bộ sau khi phát hiện các mô hình cao cấp như GPT-6 Astra tốn chi phí gấp 2,5 lần các mô hình thông thường. Ngoài ra, việc dùng thử công cụ bảo mật Mythos Preview của Anthropic giúp phát hiện nhiều lỗ hổng trong hai tuần hơn cả năm trước đó, nhưng 60% đến 70% trong số đó là cảnh báo giả cần kỹ sư tự xác minh.