Cơ quan giám sát Anh cảnh báo lỗi AI ghi chép y tế đe dọa an toàn người bệnh

Tổ chức Healthwatch England đã cảnh báo rằng các công cụ ghi chép y tế bằng AI đang triển khai tại NHS đang gặp các lỗi nghiêm trọng, như chẩn đoán sai bệnh và nhầm lẫn tên thuốc. Những lỗi này, thường do hiện tượng "ảo giác" của AI hoặc do giọng vùng miền, lại thường do chính bệnh nhân phát hiện ra thay vì các nhân viên y tế. Mặc dù chính phủ Anh thúc đẩy việc sử dụng AI ghi chép để giảm bớt gánh nặng hành chính cho nhân viên NHS, các lỗi ghi chép không được sửa đổi có thể làm sai lệch vĩnh viễn hồ sơ bệnh án và dẫn đến điều trị sai hướng. Hơn nữa, việc cơ quan quản lý Anh quyết định không phân loại các công cụ này là thiết bị y tế đang để lại một lỗ hổng lớn trong việc giám sát an toàn. Hiện tại, có 27 công cụ ghi chép y tế bằng AI khác nhau đang được sử dụng tại Anh, nhưng các bác sĩ cảnh báo rằng việc kiểm tra lại các ghi chú do AI tạo ra để tìm lỗi thực chất đã triệt tiêu lợi ích tiết kiệm thời gian của chúng. Nghiên cứu chỉ ra rằng các công cụ này đặc biệt dễ mắc lỗi khi xử lý các bệnh án phức tạp, khi có nhiều người cùng nói, hoặc khi bệnh nhân không nói tiếng Anh là ngôn ngữ mẹ đẻ.