~/AI SAFETY/open-source-labs-are-removing-cybersecurity-and-reverse-engineering-capabilities

Các phòng thí nghiệm mã nguồn mở đang loại bỏ khả năng an ninh mạng và kỹ thuật đảo ngược

Các mô hình có trọng số mở gần đây từ các phòng thí nghiệm Trung Quốc như Kimi K3.1 và Hy4 của Tencent được cho là đang loại bỏ các khả năng về an ninh mạng, kỹ thuật đảo ngược và vá lỗ hổng. Xu hướng này đang làm dấy lên những lo ngại ngày càng tăng trong cộng đồng người dùng mô hình ngôn ngữ lớn cục bộ và lực lượng bảo vệ an ninh. Việc loại bỏ các tính năng bảo mật phòng thủ khỏi các mô hình AI cục bộ buộc người dùng phải phụ thuộc vào các API đóng, làm hạn chế khả năng tự kiểm toán lỗ hổng mã nguồn hoặc phân tích tệp nhị phân một cách độc lập. Điều này trực tiếp gây tổn hại cho những người làm công tác bảo mật cục bộ, những người phụ thuộc vào các công cụ mã nguồn mở để bảo vệ hệ thống của chính họ. Việc loại bỏ các khả năng này đồng nghĩa với việc các nhà phát triển không thể sử dụng các mô hình này để vá lỗ hổng một cách chính xác hoặc thực hiện kỹ thuật đảo ngược tệp nhị phân trên phần cứng cục bộ. Các nhà quan sát lưu ý rằng điều này tạo ra một xu hướng đáng lo ngại, trái ngược với bản chất hợp tác vốn được kỳ vọng từ các bản phát hành có trọng số mở.

## KIẾN THỨC NỀN

Các mô hình có trọng số mở cung cấp các tham số đã được huấn luyện của một mô hình AI được công bố công khai, cho phép người dùng tải xuống, chạy và tinh chỉnh chúng tại chỗ. Kỹ thuật đảo ngược liên quan đến việc phân tích các tệp nhị phân đã biên dịch hoặc hành vi ứng dụng để hiểu cách chúng hoạt động, đây là một quá trình quan trọng để phát hiện và khắc phục các lỗ hổng bảo mật.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#AI Safety#Open-Source Models#Cybersecurity#Reverse Engineering#LocalLLaMA

$ subscribe --daily