Bài học kỹ thuật từ việc mở rộng mô phỏng LLM tới hơn 800 tác tử lưu trú

Một nhà phát triển độc lập đã chia sẻ bài viết kỹ thuật chi tiết về kiến trúc đằng sau "Slow Vale", một thế giới mô phỏng cuộc sống lưu trú với hơn 800 cư dân AI. Hệ thống xử lý 300–400 cuộc gọi LLM cho mỗi nhân vật hàng ngày với ngữ cảnh trung bình 30.000 token thông qua mô hình DeepSeek Flash. Vận hành môi trường đa tác tử (multi-agent) thời gian thực ở quy mô này cung cấp các giải pháp thực tế cho việc xử lý bất đồng bộ, bộ nhớ đệm ngữ cảnh (context caching) và kiểm soát chi phí trong ứng dụng LLM thực tế. Đây là bản thiết kế kiến trúc giá trị cho các nhà phát triển muốn xây dựng thế giới đa tác tử phức tạp và lưu trú dài hạn. Để tránh xung đột dữ liệu và các hành động không hợp lệ, kiến trúc tách biệt hoàn toàn quá trình suy luận LLM bất đồng bộ khỏi việc cập nhật trạng thái thế giới, coi đầu ra của LLM là ý định cần kiểm tra tính hợp lệ trước khi áp dụng. Context cho mỗi quyết định cũng được phân tách động giữa thuộc tính dài hạn (tính cách) và các biến thay đổi nhanh (mức độ đói, kho đồ, sự kiện xung quanh).