Nhà sinh tin học bày tỏ sự thất vọng với bộ lọc an toàn AI quá khắt khe trong nghiên cứu

Một nhà nghiên cứu sinh tin học đã chia sẻ các ví dụ thực tế về việc những LLM độc quyền như Claude từ chối vô lý các tác vụ khoa học thông thường, bao gồm việc chuyển tệp để phân tích gen vi-rút và các câu hỏi cơ bản về dự đoán tương tác giữa thực khuẩn thể và vật chủ. Trái lại, các mô hình mở như DeepSeek đã thực hiện các yêu cầu mà không gặp rào cản. Điều này phản ánh sự xung đột ngày càng tăng giữa các rào cản an toàn AI thương mại và nghiên cứu khoa học hợp pháp, nơi những cảnh báo sai làm gián đoạn công việc học thuật trong sinh học và khoa học máy tính. Nó nhấn mạnh tầm quan trọng thiết yếu của các mô hình trọng số mở và mô hình cục bộ đối với cộng đồng nghiên cứu chuyên sâu. Người dùng cho biết rào cản an toàn thương mại đã gắn cờ sai các thuật ngữ lành tính như 'exfil' trong tệp nhật ký kịch bản và chặn các câu hỏi liên quan đến nhiễm vi-rút ở vật chủ do coi là rủi ro an toàn sinh học. Trong khi đó, các mô hình mở đã hỗ trợ kỹ thuật trực tiếp, chẳng hạn như đề xuất sử dụng Mạng cuộn đồ thị (GCN) thay vì CNN cho việc dự đoán tương tác thực khuẩn thể-vật chủ.