OpenAI ra mắt phiên bản GPT-6.1 Sol Ultrafast với tốc độ nhanh gấp 8 lần
OpenAI đã chính thức ra mắt phiên bản Ultrafast của GPT-6.1 Sol trên các nền tảng API, Codex và ChatGPT Work. Phiên bản tốc độ cao mới này mang lại tốc độ thực thi nhanh gấp 8 lần so với bản Sol Standard với chi phí cao gấp 6 lần. Độ trễ cực thấp đóng vai trò vô cùng quan trọng đối với các ứng dụng AI thời gian thực, môi trường lập trình tương tác và quy trình doanh nghiệp yêu cầu xử lý gấp. Việc cho phép nhà phát triển chấp nhận chi phí cao hơn để đổi lấy thời gian phản hồi nhanh hơn đáng kể giúp OpenAI đáp ứng nhu cầu của các hệ thống vận hành quan trọng. Giá cho phiên bản Ultrafast được niêm yết ở mức 12 USD cho mỗi triệu token đầu vào và 60 USD cho mỗi triệu token đầu ra. Dịch vụ hiện đã khả dụng ở tất cả các khu vực được hỗ trợ cùng với khả năng tuân thủ lưu trữ dữ liệu tại Mỹ và EU, tuy nhiên các tài khoản doanh nghiệp cần được quản trị viên kích hoạt thủ công.
## KIẾN THỨC NỀN
Các mô hình ngôn ngữ lớn thường phải đánh đổi giữa trí thông minh và độ trễ phản hồi, do việc suy luận phức tạp đòi hỏi tạo ra các token theo chuỗi. Các nhà cung cấp AI đám mây giải quyết vấn đề này bằng cách cung cấp các tầng hạ tầng tối ưu độ trễ thấp dành riêng cho các kịch bản quan trọng về thời gian như bot hội thoại thoại hoặc công cụ tự động hoàn thành mã.