Meta loại bỏ chỉ số tiêu thụ AI Token khỏi tiêu chí đánh giá hiệu suất kỹ sư
Các lãnh đạo của Meta là Maher Saba và Santosh Janardhan đã ban hành hướng dẫn đánh giá hiệu suất mới cho đội ngũ kỹ sư, xác nhận công ty sẽ không còn dùng bảng theo dõi mức độ áp dụng AI hay lượng tiêu thụ token để đánh giá hiệu quả công việc. Hướng dẫn sửa đổi này loại bỏ các yêu cầu bắt buộc dùng AI cho từng nhiệm vụ cụ thể, tập trung đánh giá hiệu suất trở lại vào chất lượng mã nguồn và kết quả kinh doanh thực tế. Quyết định này đánh dấu sự chuyển dịch quan trọng trong cách các tập đoàn công nghệ lớn quản lý việc áp dụng AI, từ bỏ các chỉ số ảo như số lượng token tiêu thụ để tập trung vào kết quả phần mềm thực chất. Đây là mô hình tham khảo cho các công ty công nghệ đang tìm cách đo lường chính xác lợi nhuận đầu tư và năng suất thực tế từ các công cụ phát triển AI. Meta tiết lộ rằng 93% các thay đổi mã nguồn nội bộ hiện đã được hỗ trợ bởi các AI agent, cho thấy mức độ áp dụng AI cơ bản đã đạt tỷ lệ rất cao. Điều chỉnh chính sách này diễn ra dù Meta vẫn quản lý hạ tầng AI nội bộ thông qua nền tảng 'AI Gateway' để giám sát lượng sử dụng và cảnh báo khi chi phí token tăng vọt, trong bối cảnh chi phí công cụ AI nội bộ có thể lên tới hàng chục tỷ USD.
## KIẾN THỨC NỀN
Trong các mô hình ngôn ngữ lớn (LLM), token là các đơn vị văn bản cơ bản — như từ hoặc cụm từ con — được mô hình xử lý, khiến số lượng token trở thành đơn vị chính để đo lường khối lượng tính toán và chi phí hạ tầng. Để quản lý việc sử dụng nhiều mô hình trong doanh nghiệp, các tổ chức thường triển khai AI Gateway, một lớp kiến trúc tập trung xử lý định tuyến, giới hạn tốc độ và giám sát các truy vấn LLM.