China Mobile cho biết lưu lượng tạo sinh AI tăng vọt gấp 5 lần và thay đổi nhu cầu mạng lưới
China Mobile thông báo lưu lượng truy cập internet di động trong năm nay đã tăng 18%, trong đó nội dung do AI tạo ra thúc đẩy mức tăng trưởng gấp 5 lần và trở thành động lực chính. Ngoài ra, các ứng dụng AI đã làm thay đổi tỷ lệ lưu lượng thượng-hạ lưu từ mức trung bình toàn mạng là 1:9 sang 1:6. Sự bùng nổ lưu lượng do AI thúc đẩy và sự thay đổi tỷ lệ thượng-hạ lưu đang thách thức cơ sở hạ tầng viễn thông truyền thống, vốn chủ yếu được thiết kế cho các tác vụ tải xuống nhiều. Việc nắm bắt những thay đổi này đóng vai trò cốt lõi cho việc quy hoạch mạng lưới tương lai và giảm thiểu độ trễ suy luận AI. China Mobile lưu ý rằng tài nguyên mạng hiện tại khó có thể đáp ứng sự thay đổi cấu trúc dữ liệu này, đồng thời độ trễ AI vẫn là một nút cổ chai khi phía nền tảng đám mây đóng góp tới 665ms so với chỉ 35ms ở phía mạng di động.
## KIẾN THỨC NỀN
Lưu lượng thượng lưu (upward flow) chỉ lượng dữ liệu truyền từ thiết bị cục bộ lên internet, trong khi lưu lượng hạ lưu biểu thị dữ liệu tải xuống từ mạng. Độ trễ ký tự đầu tiên (TTFT) đo lường thời gian chờ từ khi gửi câu lệnh đến khi mô hình tạo ra ký tự phản hồi đầu tiên, đây là một chỉ số quan trọng đối với trải nghiệm người dùng AI thời gian thực.