~/OPENAI/openai-introduces-new-csam-detection-tools-and-chatgpt-safety-measures

OpenAI ra mắt công cụ phát hiện CSAM mới và các biện pháp an toàn trên ChatGPT

OpenAI đã ra mắt các công cụ phát hiện tài liệu lạm dụng tình dục trẻ em (CSAM) và bộ phân loại hình ảnh mới, cung cấp miễn phí cho các tổ chức đã được kiểm duyệt thông qua API đồng thời cập nhật các giao thức an toàn trong ChatGPT. Các công cụ này cải thiện đáng kể độ chính xác của việc kiểm duyệt nội dung, giảm thiểu tình trạng báo động giả đồng thời giúp cơ quan thực thi pháp luật và các tổ chức chống lại nạn bóc lột tình dục trẻ em trực tuyến hiệu quả hơn. Bộ phân loại hình ảnh mới giúp giảm 48% số lượng hình ảnh bị dán nhãn sai và tích hợp hệ thống chấm điểm để ưu tiên các trường hợp có nguy cơ cao. Trong khi đó, ChatGPT sẽ tạm đình chỉ tài khoản trong 24 giờ khi phát hiện yêu cầu tìm kiếm tài liệu lạm dụng tình dục, với nguy cơ bị cấm vĩnh viễn nếu vi phạm nhiều lần.

## KIẾN THỨC NỀN

Việc phát hiện tài liệu lạm dụng tình dục trẻ em (CSAM) là một thách thức an toàn AI quan trọng liên quan đến việc nhận diện và gỡ bỏ hình ảnh phi pháp. Các tổ chức như Tech Coalition và NCMEC hợp tác với các công ty công nghệ để xây dựng hướng dẫn chuẩn hóa và bộ dữ liệu huấn luyện nhằm chống lại nạn bóc lột trực tuyến.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#OpenAI#AI Safety#Content Moderation#Child Protection#API

$ subscribe --daily

OpenAI ra mắt công cụ phát hiện CSAM mới và các biện pháp an toàn trên ChatGPT | Daily News