~/AI AGENTS/open-source-implementation-of-test-time-compute-scaling-and-agent-swarms

Triển khai mã nguồn mở cho việc mở rộng tính toán thời gian kiểm tra và đàn tác tử

Một nhà phát triển đã phát hành một dự án mã nguồn mở mang tên Deepthink, thực hiện việc mở rộng tính toán thời gian kiểm tra và đàn tác tử bằng cách sử dụng các mô hình trọng số mở như Gemma và Qwen. Hệ thống này đạt được sự cải thiện hiệu suất mạnh mẽ trên các tiêu chuẩn toán học và kỹ thuật phần mềm khó. Dự án này dân chủ hóa các kỹ thuật AI tiên tiến bằng cách cho thấy các mô hình trọng số mở nhỏ hơn có thể đạt được hiệu suất vượt trội thông qua việc mở rộng tính toán thời gian kiểm tra. Nó cung cấp cho cộng đồng một giải pháp thay thế minh bạch và dễ tiếp cận cho các mô hình suy luận độc quyền. Hệ thống xử lý khoảng 200 triệu token cho mỗi bài toán, với thời gian thực thi dao động từ 50 phút đến 30 giờ tùy thuộc vào tốc độ suy luận và độ sâu. Các bài kiểm tra chuẩn sử dụng mô hình Gemma và Qwen cho thấy điểm số tăng từ 14% lên 65% trên Matharena và từ 9% lên 52% trên các bài toán DeepSWE.

## KIẾN THỨC NỀN

Tính toán thời gian kiểm tra đề cập đến việc phân bổ thêm tài nguyên tính toán trong quá trình suy luận — chẳng hạn như cho phép mô hình suy luận, lập kế hoạch và xác minh lâu hơn trước khi trả lời — thay vì chỉ trong quá trình huấn luyện ban đầu. Đàn tác tử bao gồm nhiều tác tử AI tự động hợp tác, giao tiếp và phân chia nhiệm vụ để cùng nhau giải quyết các vấn đề phức tạp.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#AI Agents#LLM#Open Source#Test-time Compute#LocalLLaMA

$ subscribe --daily