~/LOCALLLAMA/local-35b-llm-powers-blender-rigging-via-mcp-on-low-end-hardware

Mô hình ngôn ngữ lớn 35B chạy cục bộ hỗ trợ dựng hình Blender qua MCP trên phần cứng cấu hình thấp

Một nhà phát triển với nguồn lực hạn chế đã thành công trong việc sử dụng mô hình ngôn ngữ lớn 35B dựa trên nền tảng Qwen chạy cục bộ, kết hợp tài liệu Blender đã được làm sạch, để tạo ra các tập lệnh và công cụ dựng hình thông qua Giao thức Ngữ cảnh Mô hình (Model Context Protocol). Dự án này làm nổi bật cách phần cứng phổ thông với cấu hình khiêm tốn vẫn có thể chạy các quy trình AI cục bộ nâng cao nhờ tối ưu hóa hệ thống cẩn thận, công cụ dòng lệnh tùy chỉnh và xử lý tài liệu hiệu quả. Chạy trên một cỗ máy có 8GB VRAM và 16GB RAM, thiết lập này sử dụng hệ điều hành Debian Linux kết hợp trình quản lý cửa sổ i3wm, llama.cpp với bộ đệm KV cache loại q8_0, cùng tài liệu định dạng markdown đã được tối ưu để giảm 40% dung lượng token.

## KIẾN THỨC NỀN

Giao thức Ngữ cảnh Mô hình (MCP) là một tiêu chuẩn mở giúp chuẩn hóa cách các hệ thống trí tuệ nhân tạo tích hợp an toàn với các công cụ bên ngoài và nguồn dữ liệu. Llama.cpp là một thư viện mã nguồn mở cho phép suy luận cục bộ hiệu quả cho các mô hình ngôn ngữ lớn trên phần cứng phổ thông.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#LocalLLaMA#Blender#Model Context Protocol#Quantization#AI Agents

$ subscribe --daily