OpenAI và Meta cảnh báo mối đe dọa của deepfake đối với bằng chứng pháp lý
Đại diện của OpenAI và Meta đã cảnh báo tại ủy ban tư vấn quy tắc chứng cứ tư pháp Hoa Kỳ vào ngày 15 tháng 10 rằng các công nghệ deepfake do AI tạo ra đang cải thiện nhanh chóng và đe dọa nghiêm trọng đến tính đáng tin cậy của bằng chứng trong các vụ kiện tụng pháp lý. Họ lưu ý rằng con người không còn khả năng phân biệt truyền thông thực tế với các sản phẩm do các mô hình AI tiên tiến tạo ra, trong khi chi phí sản xuất lại cực kỳ thấp. Cảnh báo này nêu bật một thách thức lớn về mặt xã hội và pháp lý khi các công cụ AI tạo sinh trở nên dễ tiếp cận và chân thực hơn. Việc xói mòn các bằng chứng có thể xác thực có thể làm suy yếu nghiêm trọng tính toàn vẹn của hệ thống tư pháp trên toàn thế giới nếu các tòa án không thể phát hiện hiệu quả các phương tiện truyền thông bị làm giả. Mặc dù các công ty AI lớn đang thêm hình mờ có thể nhìn thấy hoặc không nhìn thấy vào các tệp do AI tạo ra, hiện vẫn chưa có phương pháp phổ quát nào để phát hiện các hình mờ này. Tuy nhiên, deepfake vẫn còn tương đối hiếm trong thực tiễn phòng xử án hiện tại, với một khảo sát gồm 931 thẩm phán Hoa Kỳ cho thấy chỉ có 15 người từng gặp phải trường hợp độ tin cậy của bằng chứng bị nghi ngờ do nghi ngờ deepfake.
## KIẾN THỨC NỀN
Hình mờ AI là một kỹ thuật chủ động nhúng các chữ ký không thể nhận thấy hoặc siêu dữ liệu vào các đầu ra do AI tạo ra nhằm xác minh nguồn gốc. Deepfake đề cập đến các phương tiện truyền thông kỹ thuật số bị thao túng cực kỳ chân thực—bao gồm hình ảnh, âm thanh và video—được tạo ra bằng cách sử dụng các thuật toán học sâu có thể bắt chước một cách thuyết phục những con người hoặc sự kiện có thật.