Simon Willison phát hành llm 0.33 với nâng cấp OpenAI 3.x và httpx2
Simon Willison đã phát hành phiên bản llm 0.33, nâng cấp các thư viện phụ thuộc lên OpenAI Python library 3.x và chuyển đổi client HTTP sang httpx2. Bản cập nhật này cũng bổ sung khả năng truyền khóa trực tiếp cho các lệnh nhúng và kết hợp tuần tự nhiều mẫu prompt. Bản phát hành này cải thiện tính linh hoạt của công cụ dòng lệnh llm bằng cách cho phép người dùng liên kết các mẫu prompt và quản lý khóa API động cho các mô hình nhúng. Nó cũng đảm bảo khả năng tương thích với các client HTTP hiện đại và các tiêu chuẩn thư viện OpenAI mới nhất. Tùy chọn --key mới cho các lệnh nhúng truyền khóa đã phân giải đến các plugin mà không làm thay đổi trạng thái mô hình dùng chung. Ngoài ra, các mô hình có khả năng suy luận hiện hỗ trợ tùy chọn reasoning_summary với các thiết lập auto, concise và detailed.
## KIẾN THỨC NỀN
llm là một công cụ dòng lệnh và thư viện Python phổ biến do Simon Willison phát triển, cho phép người dùng tương tác với nhiều Mô hình Ngôn ngữ Lớn (LLM) khác nhau cả cục bộ và qua API từ xa. Vector embedding (nhúng vector) là các biểu diễn nhiều chiều của văn bản được sử dụng trong học máy để nắm bắt ý nghĩa ngữ nghĩa. Trước bản phát hành này, việc quản lý khóa API cho các mô hình nhúng có sự khác biệt so với cách xử lý đối với các prompt LLM thông thường.