Các nhà lâm sàng yêu cầu chia sẻ dữ liệu an toàn để khắc phục lỗi chatbot AI
Các nhà lâm sàng và nghiên cứu đang kêu gọi các công ty AI công khai và chia sẻ dữ liệu an toàn của họ nhằm giải quyết những thất bại nghiêm trọng trong cách chatbot AI hỗ trợ người dùng đang gặp khủng hoảng sức khỏe tâm thần. Khi ngày càng có nhiều người tìm đến chatbot AI để được hỗ trợ về mặt cảm xúc, các rào cản an toàn không đầy đủ có thể dẫn đến những lời khuyên có hại hoặc không thể can thiệp kịp thời trong các tình huống đe dọa tính mạng. Việc chia sẻ dữ liệu an toàn là rất quan trọng để xây dựng các quy trình chuẩn hóa và cải thiện phản hồi của AI trong các trường hợp khẩn cấp về sức khỏe tâm thần. Lời kêu gọi minh bạch này làm nổi bật những hạn chế của các rào cản an toàn độc quyền và các nỗ lực thử nghiệm xâm nhập (red teaming) hiện tại, vốn thường không lường trước được tính chất phức tạp và khó đoán của các cuộc khủng hoảng tâm lý ở con người.
## KIẾN THỨC NỀN
Rào cản an toàn AI (AI safety guardrails) là các cơ chế nhiều lớp được thiết kế để ngăn chặn các mô hình ngôn ngữ lớn tạo ra đầu ra có hại hoặc thiên vị. Để xác định các lỗ hổng này trước khi triển khai, các tổ chức sử dụng phương pháp thử nghiệm xâm nhập AI (AI red teaming), một quy trình có cấu trúc nhằm mô phỏng các cuộc tấn công giả định hoặc các tình huống thử thách để kiểm tra giới hạn của hệ thống.