~/LLM/reflection-ai-releases-beam-a-501b-open-weight-moe-model

Reflection AI ra mắt Beam, mô hình MoE mở trọng số 501 tỷ tham số

Reflection AI, công ty khởi nghiệp được Nvidia đầu tư, đã phát hành Beam, mô hình AI mở trọng số đầu tiên của hãng dành cho các tác vụ lập trình, suy luận và đại lý tự động (agentic). Được xây dựng trên kiến trúc Mixture-of-Experts (MoE) thưa, Beam có tổng cộng 501 tỷ tham số nhưng chỉ kích hoạt 23 tỷ tham số cho mỗi token. Trong bối cảnh các công ty công nghệ phương Tây nỗ lực cạnh tranh với các mô hình mở trọng số chi phí thấp và hiệu năng cao từ Trung Quốc, Beam mang đến giải pháp tiết kiệm chi phí tính toán dành cho tự động hóa phần mềm. Sự ra mắt này nhấn mạnh xu hướng chuyển dịch sang kiến trúc MoE thưa nhằm giảm chi phí suy luận nhưng vẫn duy trì hiệu suất hàng đầu. Reflection AI tuyên bố Beam đạt hiệu suất ngang ngửa GLM-5.2 của Zhipu AI và tiệm cận Qwen3.8-Max trên các bài kiểm tra mã nguồn và tác vụ đại lý. Được thành lập vào năm 2024 bởi hai cựu nhà nghiên cứu DeepMind là Misha Laskin và Ioannis Antonoglou, công ty khởi nghiệp này cũng đã thỏa thuận sử dụng hạ tầng tính toán tại trung tâm dữ liệu Colossus 2 của SpaceX.

## KIẾN THỨC NỀN

Các mô hình AI mở trọng số (open-weight) công khai bộ tham số của mạng thần kinh, cho phép nhà phát triển tự lưu trữ và tùy biến trên hạ tầng riêng. Mixture-of-Experts (MoE) là thiết kế mô hình định tuyến dữ liệu đầu vào đến các mạng con chuyên biệt ('chuyên gia'), giúp duy trì số lượng tham số kích hoạt thấp trong quá trình suy luận nhưng vẫn sở hữu tổng dung lượng tham số khổng lồ.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#LLM#Open-Source AI#MoE#Artificial Intelligence#Reflection AI

$ subscribe --daily

Reflection AI ra mắt Beam, mô hình MoE mở trọng số 501 tỷ tham số | Daily News