Llama.cpp Tích Hợp Hỗ Trợ Toàn Diện Giao Thức Model Context Protocol (MCP)
Llama.cpp đã tích hợp hỗ trợ toàn diện cho Model Context Protocol (MCP) thông qua pull request #26062, cho phép WebUI và CLI của nó hoạt động như các giao diện trò chuyện dạng tác nhân (agentic). Bản cập nhật này giúp các mô hình chạy cục bộ tương tác trực tiếp với các công cụ và nguồn dữ liệu bên ngoài, hỗ trợ cả máy chủ HTTP và stdio. Bản cập nhật này cải thiện đáng kể hệ sinh thái LLM cục bộ bằng cách cho phép sử dụng công cụ và quy trình làm việc dạng tác nhân trực tiếp trong một công cụ suy luận phổ biến. Người dùng hiện có thể xây dựng các tác nhân AI cục bộ mạnh mẽ mà không cần phụ thuộc vào bên thứ ba, chẳng hạn như trợ lý lập trình sử dụng máy chủ Serena MCP. Trong khi các máy chủ HTTP chạy trên web đã được hỗ trợ trước đó, việc tích hợp các máy chủ stdio đòi hỏi phải sửa đổi `llama-cli` để định tuyến qua máy chủ. Cấu hình cho các máy chủ MCP có thể được cung cấp bằng tệp JSON tiêu chuẩn hoặc trực tiếp thông qua dòng lệnh.
## KIẾN THỨC NỀN
Llama.cpp là một công cụ suy luận mã nguồn mở phổ biến được thiết kế để chạy các LLM cục bộ với hiệu suất cao. Model Context Protocol (MCP), do Anthropic giới thiệu, là một tiêu chuẩn mở hoạt động như một "cổng USB-C" cho AI, chuẩn hóa cách các mô hình kết nối với các nguồn dữ liệu, công cụ và quy trình làm việc bên ngoài.