Mark Zuckerberg ủng hộ đánh giá độc lập và động lực thị trường thay vì làm chậm phát triển AI
CEO Meta Mark Zuckerberg tuyên bố trên X rằng sự an toàn của AI nên dựa vào các động lực thị trường, trách nhiệm pháp lý và đánh giá độc lập từ bên ngoài thay vì làm chậm tốc độ phát triển. Ông cũng tiết lộ rằng Meta đã âm thầm hoãn ra mắt mô hình Muse vài tháng để đảm bảo an toàn chức năng và thiết lập hàng rào bảo vệ. Trong bối cảnh các nhà lãnh đạo công nghệ tranh luận về việc giám sát quản lý so với đổi mới nhanh chóng, lập trường của Zuckerberg nhấn mạnh phương pháp dựa trên động lực thị trường đối với việc căn chỉnh AI (AI alignment), cho rằng nhu cầu của người dùng và trách nhiệm pháp lý sẽ tự động buộc các phòng thí nghiệm phải ưu tiên an toàn. Quan điểm này phản đối những lời kêu gọi tạm dừng huấn luyện mô hình tiên phong, đồng thời khuyến khích phân bổ sức mạnh tính toán để phục vụ công chúng thay vì theo đuổi sự tự cải thiện đệ quy. Zuckerberg lưu ý rằng Meta Superintelligence Labs (MSL) áp dụng việc thuê các đơn vị đánh giá và cố vấn bên ngoài độc lập như một thông lệ chuẩn trên nhiều lĩnh vực kinh doanh. Ngoài ra, ông nhấn mạnh rằng việc dành tài nguyên tính toán phục vụ người dùng thay vì mù quáng chạy đua tự cải thiện đệ quy là một trong những con đường an toàn nhất để phát triển AI.
## KIẾN THỨC NỀN
Căn chỉnh AI (AI alignment) là quá trình đảm bảo đầu ra của mô hình trí tuệ nhân tạo tuân thủ các giá trị, chuẩn mực đạo đức và hướng dẫn an toàn của con người. Trong khi đó, tự cải thiện đệ quy (recursive self-improvement - RSI) là quá trình mà hệ thống AI tự động viết lại mã nguồn của chính nó để nâng cao năng lực, dấy lên lo ngại về sự gia tăng sức mạnh vượt tầm kiểm soát.