Sam Altman khẳng định tự điều chỉnh ngành có thể đảm bảo an toàn phát triển AI
Tại một sự kiện của Salesforce ở San Francisco, CEO Sam Altman của OpenAI tuyên bố rằng ngành công nghiệp AI có thể quản lý hiệu quả rủi ro nghiên cứu và ngăn ngừa tác hại cho công chúng thông qua việc tự điều chỉnh và hợp tác tự nguyện. Quan điểm ủng hộ tự điều chỉnh của Altman cho thấy ưu tiên của các lãnh đạo AI đối với tiêu chuẩn an toàn do ngành tự thiết lập thay vì pháp luật từ chính phủ nhằm duy trì tốc độ đổi mới. Tuy nhiên, điều này cũng làm gia tăng tranh luận về việc liệu cam kết tự nguyện của doanh nghiệp có đủ để ngăn chặn các rủi ro nghiêm trọng hay không. Altman lưu ý rằng OpenAI trước đó đã hoãn quá trình huấn luyện học tăng cường tiên tiến để phân bổ tài nguyên tính toán cho giám sát, rào chắn an toàn và đánh giá rủi ro. Ông cho rằng các đánh giá độc lập và quy trình an toàn hợp tác có thể thiết lập các cơ chế bảo vệ hiệu quả song song hoặc trước khi có sự quản lý chính thức từ nhà nước.
## KIẾN THỨC NỀN
An toàn AI tập trung vào việc đảm bảo các hệ thống trí tuệ nhân tạo tiên tiến hoạt động tin cậy mà không gây ra rủi ro ngoài ý muốn hoặc tổn hại cho xã hội. Thách thức trung tâm trong an toàn AI là căn chỉnh AI (AI alignment), bao gồm việc huấn luyện các mô hình tuân thủ các giá trị, ý định của con người và rào chắn an toàn để chúng không hoạt động nguy hiểm.