Sáu lập trình viên bị tuyên án vì vượt rào AI tạo nội dung đồi trụy
Tòa án nhân dân thành phố Dư Diêu, tỉnh Triết Giang đã tuyên án sáu lập trình viên vì can thiệp câu lệnh hệ thống và thẻ nhân vật để qua mặt bộ lọc an toàn của AI nhằm kinh doanh nội dung đồi trụy. Dịch vụ này đã thu về khoảng 24.000 USD qua các kênh thanh toán bất hợp pháp và tiền mã hóa trước khi toàn bộ nhóm bị cảnh sát bắt giữ. Phán quyết này tạo một tiền lệ pháp lý quan trọng khi làm rõ rằng tính trung lập của công nghệ không thể bào chữa cho các lập trình viên cố tình phá bỏ hàng rào an toàn của AI để trục lợi bất chính. Phán quyết khẳng định rằng những người chủ động tạo môi trường kỹ thuật để tạo ra nội dung vi phạm vẫn nắm quyền kiểm soát thực chất và phải chịu trách nhiệm hình sự như những nhà sản xuất nội dung. Nhóm lập trình viên đã vận hành một nền tảng trên máy chủ nước ngoài cho phép người dùng nạp tiền để trò chuyện khiêu dâm với chatbot và tiêu tốn điểm thưởng để tạo hơn 37.000 ảnh tĩnh cùng 6.000 ảnh động. Cơ quan giám định tư pháp xác định có hơn 9.000 ảnh tĩnh và 5.000 ảnh động do hệ thống này tạo ra cấu thành vật phẩm đồi trụy theo quy định pháp luật.
## KIẾN THỨC NỀN
Kỹ thuật "vượt rào" (jailbreaking) câu lệnh hệ thống (system prompt) là việc thiết kế các prompt đặc biệt nhằm qua mặt các chỉ dẫn an toàn tích hợp sẵn trong mô hình ngôn ngữ lớn (LLM). Thẻ nhân vật (character cards) là các tệp cấu hình được dùng trong các ứng dụng nhập vai AI để quy định tính cách, văn phong và bối cảnh trò chuyện của chatbot. Ngoài ra, các nền tảng thanh toán bên thứ tư là các kênh gom thanh toán không chính thức, thường được các dịch vụ bất hợp pháp dùng để né tránh sự giám sát tài chính.