~/AI SAFETY/x3guard-a-150m-parameter-prompt-guard-model

X3Guard: Mô hình Prompt Guard với 150 triệu tham số

Axiomic Labs vừa phát hành X3Guard-150M, một mô hình bảo vệ prompt nhẹ được xây dựng trên nền tảng cơ sở GPT-X3 của họ. Mô hình này đánh giá bất kỳ prompt nào được cung cấp để gắn cờ xem nó có độc hại hay mang tính đối kháng hay không chỉ trong một lần chạy. Mô hình này cung cấp một giải pháp nhẹ, hiệu suất cao có thể chạy cục bộ trên các thiết bị biên và trực tiếp bên trong trình duyệt web với độ trễ cực thấp. Nó nâng cao tính bảo mật của LLM và khả năng triển khai cục bộ mà không cần cơ sở hạ tầng đám mây cồng kềnh. X3Guard-150M đạt thời gian phản hồi trong khoảng chục mili-giây trên các thiết bị như iPhone trong khi vẫn vượt trội hơn nhiều mô hình lớn hơn. Bản phát hành bao gồm một thẻ mô hình (model card) và một bản demo tương tác ngay trong trình duyệt.

## KIẾN THỨC NỀN

Prompt guard là các mô hình phân loại chuyên biệt được thiết kế để bảo vệ các Mô hình Ngôn ngữ Lớn bằng cách phát hiện các đầu vào độc hại, thao túng prompt và các nỗ lực vượt rào bảo mật (jailbreak). Prompt đối kháng là các chuỗi văn bản được tạo ra đặc biệt nhằm vượt qua các hàng rào an toàn này và kích hoạt các lỗi không mong muốn của mô hình.

## TÀI LIỆU THAM KHẢO

## TỪ KHÓA

#AI Safety#Prompt Guard#Edge AI#LLM#Model Release

$ subscribe --daily