25 nhà toán học đoạt giải Fields cảnh báo sự lệch hướng nghiêm trọng của AI trong toán học
25 nhà toán học từng đoạt giải Fields, bao gồm Terence Tao và Peter Scholze, đã cùng ký tên vào tuyên bố chung mang tên "Sự lệch hướng nghiêm trọng của AI trong Toán học". Tuyên bố cảnh báo rằng các công ty công nghệ AI đang coi việc nghiên cứu toán học chỉ như các chỉ số benchmark cho LLM, ưu tiên tạo ra lời giải nhanh chóng thay vì thấu hiểu bản chất khái niệm và duy trì các quy chuẩn học thuật. Tuyên bố này phản ánh mâu thuẫn cốt lõi giữa các chỉ số đua tranh của doanh nghiệp AI và đạo đức nghiên cứu khoa học cơ bản. Nếu các công cụ AI tràn ngập thị trường với những lời giải chưa qua kiểm chứng, thiếu trích dẫn và chiều sâu sư phạm, điều đó có nguy cơ làm suy yếu sự hợp tác của con người, quy trình phản biện và sự tiến bộ khoa học lâu dài. Các tác giả chỉ ra rằng những kết quả toán học do AI tạo ra một cách vội vã thường bỏ qua khâu trình bày học thuật, phản biện và trích dẫn, gây nguy cơ đạo văn và làm đứt gãy sự truyền đạt tri thức giữa con người. Ngoài ra, nhà toán học Deng Yu (Đặng Dục) cũng làm rõ đùa vui về việc giải nghệ viết tiểu thuyết, khẳng định ông không tin AI có thể giải quyết được toàn bộ các bài toán.
## KIẾN THỨC NỀN
Khái niệm "AI alignment" (sự căn chỉnh AI) đề cập đến thách thức đảm bảo các hệ thống AI hoạt động đúng theo mục tiêu, giá trị và tiêu chuẩn đạo đức của con người. Trong những năm gần đây, các công ty AI thường xuyên sử dụng các kỳ thi toán học và bộ đề học thuật làm chỉ số benchmark tiêu chuẩn để đánh giá và quảng bá khả năng tư duy của các mô hình ngôn ngữ lớn (LLM).