فرهنگ اصطلاحات
تزریق پرامپت
تزریق پرامپت وقتی است که متن ورودی، دستور سیستم را عوض میکند: مثلاً فاکتور یا ایمیل مشتری میگوید «قواعد قبلی را نادیده بگیر». این یک حمله به حاکمیت است نه یک پرسش عادی.
با نام دیگر Prompt Injection
در پخش، ورودیها از ERP، فایل اکسل و متن آزاد میآیند. هر کدام میتوانند دستور پنهان داشته باشند. داده ابزار باید داده بماند، نه دستور.
دفاع عملی: جدا کردن دستور سیستم از محتوای بازیابیشده، و اجرای سیاست قطعی بعد از مدل.
فرآیندهایتان را عاملمحور کنیم
از کجا شروع کنیم؟