~/LOCAL AI/fully-local-conversational-ai-embedded-in-a-plush-toy

AI Trò Chuyện Hoàn Toàn Cục Bộ Được Tích Hợp Vào Gấu Bông

Nhà phát triển msalsas đã tạo ra "The Philosopher Plush", một dự án DIY mã nguồn mở tích hợp AI trò chuyện hoàn toàn cục bộ và bảo vệ quyền riêng tư vào gấu bông mà không phụ thuộc vào dịch vụ đám mây hay khóa API bên ngoài. Món đồ chơi đóng vai trò như một thiết bị đầu cuối tinh gọn sử dụng Raspberry Pi Zero WH để truyền dữ liệu âm thanh và hình ảnh qua WebSocket tới một máy tính cục bộ chạy Whisper, Hermes 3 LLM, Kokoro TTS và các mô hình thị giác. Dự án này cho thấy cách kết hợp các mô hình trọng số mở hiện đại và nhẹ (chuyển giọng nói thành văn bản, LLM, chuyển văn bản thành giọng nói và thị giác máy tính) để xây dựng ứng dụng phần cứng biên tương tác thời gian thực hoàn toàn riêng tư. Đây là mô hình tham chiếu thực tế cho các nhà phát triển muốn xây dựng trợ lý giọng nói thông minh ngoại tuyến, giúp loại bỏ độ trễ đám mây, chi phí API và lo ngại về bảo mật dữ liệu. Phần cứng bên trong gấu bông bao gồm Raspberry Pi Zero WH kết nối với micro, loa, camera và động cơ servo điều khiển đầu. Ở phần mềm phía máy chủ, tính năng nhận diện khuôn mặt qua dlib và nhận biết cảm xúc qua FER+ giúp gấu bông điều chỉnh hành vi phù hợp, trong khi LangGraph quản lý bộ nhớ trò chuyện dài hạn theo từng cá nhân.

## KIẾN THỨC NỀN

Các hệ thống AI trò chuyện thường yêu cầu một quy trình kết hợp giữa Chuyển giọng nói thành văn bản (STT), Mô hình ngôn ngữ lớn (LLM) và Chuyển văn bản thành giọng nói (TTS). Kokoro là một mô hình TTS trọng số mở chỉ có 82 triệu tham số, trong khi Hermes 3 của Nous Research là mô hình LLM mã nguồn mở được tinh chỉnh dựa trên kiến trúc Llama 3.1 của Meta nhằm tối ưu hóa khả năng suy luận và sáng tạo.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#Local AI#Hardware#Edge Computing#Multimodal AI#Open Source

$ subscribe --daily

AI Trò Chuyện Hoàn Toàn Cục Bộ Được Tích Hợp Vào Gấu Bông | Daily News