Seed của ByteDance thành lập bộ phận an toàn và căn chỉnh mô hình lớn đầu tiên tại Trung Quốc
Phòng thí nghiệm AI Seed của ByteDance vừa thành lập bộ phận 'Seed Model-Alignment & Preparedness', trở thành phòng thí nghiệm AI tiên tiến đầu tiên tại Trung Quốc lập ra một đơn vị độc lập chuyên về an toàn và căn chỉnh. Động thái này cho thấy ngành công nghệ đang ngày càng tập trung vào việc giảm thiểu các rủi ro nghiêm trọng từ trí tuệ nhân tạo tiên tiến và các tác nhân tự trị, chẳng hạn như sự lệch lạc hành vi bất ngờ và các mối đe dọa CBRN. Do Yan Lin lãnh đạo và báo cáo cho người đứng đầu Seed là Wu Yonghui, bộ phận mới này tiếp nhận các thành viên từ nhóm Responsible AI trước đây cùng một số thành viên nhóm Chat để nâng cao độ an toàn của mô hình tác nhân và phòng ngừa rủi ro từ các năng lực biên.
## KIẾN THỨC NỀN
Căn chỉnh AI là lĩnh vực nghiên cứu tập trung vào việc định hướng các hệ thống AI hướng tới ý định, giá trị của con người và các ràng buộc an toàn nhằm ngăn chặn những hành vi ngoài ý muốn hoặc gây hại. Khi các mô hình AI phát triển thành các tác nhân tự trị có khả năng thực hiện các tác vụ phức tạp, việc đảm bảo chúng vẫn nằm trong tầm kiểm soát và an toàn đã trở thành một thách thức cấp bách đối với ngành công nghiệp.