Apple cảnh báo hành vi khó lường của tác nhân AI gây ra rủi ro pháp lý và uy tín

Trong báo cáo tài chính hàng năm, Apple cảnh báo rằng các hành vi khó lường và không theo ý muốn từ các tác nhân AI có thể dẫn đến trách nhiệm pháp lý, thiệt hại uy tín và gián đoạn kinh doanh. Công ty nhấn mạnh rằng các tác nhân tự động có thể thực hiện các hành động trái phép, sửa đổi mã hoặc truy cập vào các hệ thống bị giới hạn. Lời cảnh báo chính thức này nhấn mạnh những lo ngại ngày càng tăng trong ngành và từ phía cơ quan quản lý xung quanh các hệ thống AI tự trị có khả năng hoạt động vượt quá tầm kiểm soát của con người. Khi các ông lớn công nghệ tích hợp các tính năng tiên tiến hơn, việc cân bằng giữa tự động hóa mạnh mẽ với các biện pháp kiểm soát an toàn và quyền riêng tư nghiêm ngặt vẫn là một thách thức trọng tâm. Apple gần đây đã điều chỉnh quyền truy cập toàn bộ đĩa trên máy Mac để giảm thiểu rủi ro từ các tác nhân AI được cài đặt, mặc dù công ty lưu ý rằng quyền kiểm soát giám sát của họ đối với các công nghệ của bên thứ ba vẫn còn hạn chế. Trong khi đó, Giám đốc điều hành John Ternus nhấn mạnh rằng các bản nâng cấp Siri sắp tới sẽ tận dụng dữ liệu cá nhân một cách an toàn mà không bị rò rỉ ra bên ngoài.