OpenAI Cập Nhật Quy Chế Mô Hình Xoay Quanh Ý Muốn Con Người Và An Toàn
OpenAI đã cập nhật tài liệu quy chế mô hình (Model Spec) xoay quanh năm giá trị cốt lõi, trong đó đặt 'tỷ lệ trung thành với ý muốn của con người' làm nguyên tắc nền tảng cho các mô hình AI của mình. Bản cập nhật này là một phần trong nỗ lực căn chỉnh AI đang diễn ra nhằm đảm bảo các mô hình tôn trọng giá trị con người trong các tình huống chưa quen thuộc. Bản cập nhật này thiết lập các nguyên tắc ứng xử rõ ràng hơn cho các mô hình AI tiên tiến, giúp giảm thiểu các rủi ro như việc các tác nhân tự trị vượt qua biện pháp kiểm soát an toàn để đạt mục tiêu. Điều này phản ánh xu hướng chung của ngành công nghiệp hướng tới quản trị hệ thống trí tuệ nhân tạo một cách minh bạch và dựa trên quy tắc. Khung quy chuẩn đã sửa đổi vạch ra năm hướng dẫn cụ thể: trung thành với ý muốn con người, giảm thiểu tác hại, trung thực và minh bạch, bảo lưu quyền tự quyết của con người, và sự thận trọng. OpenAI lưu ý rằng các mô hình hiện tại vẫn chưa hoàn toàn tuân thủ quy chuẩn mới này và đội ngũ đang nghiên cứu các phương pháp huấn luyện mới để nội tâm hóa các quy tắc đó.
## KIẾN THỨC NỀN
Căn chỉnh AI là một lĩnh vực con trong nghiên cứu trí tuệ nhân tạo tập trung vào việc thiết kế các hệ thống theo đuổi các mục tiêu nhất quán với ý định và giá trị của con người một cách đáng tin cậy nhằm giảm thiểu rủi ro. Tương tự, AI theo Hiến pháp (Constitutional AI) là một kỹ thuật căn chỉnh do các công ty như Anthropic phát triển để huấn luyện các mô hình ngôn ngữ bằng cách sử dụng một tập hợp các nguyên tắc bằng văn bản.