Tự cài trợ lý Copilot cục bộ miễn phí trong VS Code với Lemonade
Một nhà phát triển đã xuất bản hướng dẫn cập nhật chi tiết cách thiết lập trợ lý lập trình AI cục bộ miễn phí trong Visual Studio Code bằng Lemonade và các LLM nguồn mở cục bộ. Hướng dẫn mới này đơn giản hóa quy trình cấu hình, đồng thời tận dụng những cải tiến hiệu suất gần đây của các mô hình sinh mã cục bộ. Khi chi phí đăng ký dịch vụ đám mây như GitHub Copilot tăng lên, các giải pháp thay thế nguồn mở cục bộ mang lại cho nhà phát triển một lựa chọn tiết kiệm và bảo mật riêng tư hơn. Việc chạy LLM cục bộ đảm bảo mã nguồn nhạy cảm không rời khỏi máy tính cá nhân, đồng thời loại bỏ các chi phí duy trì hàng tháng. Lemonade hoạt động như một máy chủ AI cục bộ nguồn mở, quản lý các backend suy luận LLM như llama.cpp trên GPU, NPU và CPU. Hướng dẫn chỉ ra cách kết nối máy chủ cục bộ này một cách liền mạch vào VS Code để cung cấp tính năng tự động gợi ý và hỗ trợ viết mã.
## KIẾN THỨC NỀN
GitHub Copilot là một công cụ lập trình AI phổ biến chạy trên các máy chủ đám mây và yêu cầu trả phí định kỳ. Lemonade là máy chủ AI cục bộ nguồn mở của AMD được thiết kế để đơn giản hóa việc chạy các mô hình văn bản, hình ảnh và âm thanh trên nhiều kiến trúc phần cứng. Trợ lý AI cục bộ ngày càng trở nên khả thi nhờ sự phát triển nhanh chóng của các LLM nguồn mở nhẹ chuyên về mã hóa.