Pirate Face ra mắt kho lưu trữ torrent P2P cho trọng số mô hình LLM mở

Pirate Face vừa ra mắt như một kho lưu trữ dựa trên mạng torrent nhằm bảo tồn và phân phối trọng số của các mô hình ngôn ngữ lớn (LLM) mở thông qua kết nối ngang hàng (P2P). Nền tảng này cung cấp các liên kết magnet cho nhiều kiến trúc mô hình và các biến thể tùy chỉnh nhằm tránh nguy cơ mất dữ liệu do bị gỡ bỏ trên các nền tảng tập trung. Trọng số của các mô hình ngôn ngữ lớn đòi hỏi dung lượng lưu trữ và băng thông cực kỳ lớn, khiến các nền tảng tập trung như Hugging Face dễ trở thành điểm lỗi đơn lẻ chịu ảnh hưởng bởi gỡ bỏ dữ liệu hoặc sự cố mạng. Việc ứng dụng BitTorrent giúp phi tập trung hóa quá trình lưu trữ, giảm chi phí băng thông cho nhà phát triển mở và đảm bảo khả năng tiếp cận mô hình AI lâu dài. Nền tảng này lập chỉ mục các liên kết magnet của nhiều dòng mô hình như Whisper, DeBERTa và các phiên bản mô hình gỡ hạn chế (abliterated). Các thảo luận kỹ thuật xung quanh dự án cũng chỉ ra rằng kỹ thuật trực giao hóa kích hoạt tại thời điểm chạy (runtime activation orthogonalization) sử dụng các vectơ từ chối dung lượng nhỏ có thể bỏ hạn chế cho mô hình gốc mà không cần phân phối lại toàn bộ tệp trọng số mới.