Huấn luyện mô hình thế giới Dreamer 4 1,57B tham số dưới 150 USD

Một nhà phát triển độc lập đã huấn luyện thành công mô hình thế giới Dreamer 4 quy mô 1,57 tỷ tham số từ đầu với chi phí dưới 150 USD bằng dữ liệu tự tạo theo thuật toán. Dự án đạt điểm PSNR của bộ phân tách từ tố (tokenizer) là 40,41 và chỉ số khoảng cách video Fréchet (FVD) là 32,19, chứng minh rằng các mô hình thế giới chất lượng cao có thể được huấn luyện với chi phí rẻ. Dự án này cho thấy việc huấn luyện các mô hình thế giới quy mô lớn không còn đòi hỏi ngân sách khổng lồ từ các phòng thí nghiệm AI hàng đầu, giúp bình dân hóa việc tiếp cận nghiên cứu học tăng cường tiên tiến. Bằng cách sử dụng dữ liệu được tạo theo thuật toán thay vì thu thập video từ web, các nhà phát triển có thể duy trì sự kiểm soát chính xác đối với phản hồi hành động trong môi trường mô phỏng. Mô hình được huấn luyện trên 9,6 triệu khung hình và có thể mô phỏng tối đa 144 khung hình liên tục trước khi chất lượng thế giới ảo bị suy giảm. Nhà phát triển đã chuyển từ kiến trúc Genie của Google sang Dreamer 4 vì cơ chế học hành động không giám sát của Genie khiến các phím điều khiển quá lỏng lẻo để tương tác hiệu quả.