OpenAI Thêm Thanh Trượt Điều Chỉnh Mức Độ Suy Luận Cho Người Dùng ChatGPT Plus và Pro

OpenAI đã triển khai một thanh trượt giao diện mới cho phép người dùng ChatGPT Plus và Pro tự điều chỉnh mức độ suy luận của mô hình cho mỗi câu trả lời. Tính năng này giúp người dùng kiểm soát trực tiếp sự cân bằng giữa tốc độ phản hồi và độ sâu của tư duy. Bản cập nhật này cải thiện trải nghiệm người dùng bằng cách cho phép họ tiết kiệm thời gian và tài nguyên tính toán cho các câu hỏi đơn giản, đồng thời phân bổ nhiều tài nguyên suy luận hơn cho các tác vụ phức tạp. Điều này đánh dấu sự chuyển dịch hướng tới việc cung cấp cho người dùng quyền kiểm soát chi tiết đối với mức tiêu thụ tài nguyên và độ trễ của LLM. Thanh trượt này nhắm vào các mô hình suy luận của OpenAI, vốn phụ thuộc vào việc mở rộng quy mô tính toán trong lúc suy luận (inference-time compute) để giải quyết các vấn đề khó. Mặc dù không phải là một đột phá công nghệ lớn, tính năng này cung cấp một giải pháp UX thực tế để quản lý độ trễ vốn có của các mô hình tư duy sâu.