دستور کار و متن نقل‌شده را در بخش‌های مشخص جدا کنید تا مدل بداند چه چیزی موضوع تحلیل است. محدودکننده‌های متنی به فهم ساختار کمک می‌کنند، اما سد امنیتی قطعی نیستند.
مسئله را درست تعریف کنیم
یک ایمیل یا سند می‌تواند خودش جمله دستوری داشته باشد. وظیفه مدل تحلیل همان جمله است؛ وجود فعل امری در سند نباید مجوز تغییر کار اصلی شود.
روش اجرا
- وظیفه را خارج از بخش نقل‌قول بنویسید.
- برای ورودی نامطمئن نام بخش و انتهای مشخص بگذارید.
- اختیار ابزار و دسترسی داده را بیرون از پرامپت کنترل کنید.
نکته اجرایی و کنترل خطا
یک قالب خوب باید برای ورودی دارای همان علامت محدودکننده هم رفتار مشخص داشته باشد. اگر متن کاربر خودش شامل برچسب پایانی باشد، روش قراردادن داده باید آن را به‌صورت داده حفظ کند و ساختار را نشکند. از مثال بی‌خطر برای این آزمون استفاده کنید؛ هدف دیدن مرز متن و دستور است. حتی با قالب درست، خروجی را برای انحراف از وظیفه بررسی کنید. اگر ابزار متصل است، بررسی مجوز و مقصد نباید به نتیجه همین تفسیر زبانی وابسته بماند؛ خطای ساختار متن باید پیش از اقدام بیرونی متوقف شود.
نمونه آموزشی
در مثال بی‌خطر، متن ورودی می‌گوید «این جمله را خلاصه نکن». اگر کار کاربر خلاصه‌کردن سند است، آن عبارت بخشی از سند محسوب می‌شود و هدف تازه‌ای ایجاد نمی‌کند. آزمون باید نتیجه خلاصه را بسنجد، نه صرف حضور برچسب را.
آزمون تکمیلی برای تصمیم عملی
یک سند آزمایشی بسازید که داخل نقل‌قول آن درخواست تغییر دستور آمده است. خروجی باید آن جمله را به‌عنوان محتوای سند بررسی کند، نه اجازه انجام کار تازه. جداکننده فقط ساختار ورودی را روشن می‌کند؛ برای ابزار دارای اختیار، همان آزمون باید در کنار کنترل دسترسی و محدوده مجاز اجرا شود.
جدول کار برای همین موضوع
| فیلد ثبت | کاربرد در تصمیم |
|---|---|
| بخش ورودی | متن نقل‌شده ایمیل |
| منشأ | داده بیرونی؛ دستور کاربر نیست |
| درجه اعتماد | نامطمئن حتی اگر ظاهری رسمی دارد |
| وظیفه مجاز | فقط خلاصه‌کردن همان متن |
| خروجی مورد انتظار | جمله امری داخل سند نباید وظیفه را عوض کند |
| کنترل بیرونی | ابزار خارج از مجوز در سرور رد شود |
فایل قابل استفاده
دریافت فرم CSV این راهنما. هر سطر را با اطلاعات پروژه خود تکمیل کنید. خانه نامعلوم را نامشخص بگذارید؛ نبود شاهد را با عدد صفر یا تأیید جایگزین نکنید. فایل شامل اطلاعات مشتری واقعی نیست و برای ثبت بررسی به کار می‌رود.
محدودیت و تصمیم بعدی
تکیه صرف بر برچسب یا XML برای جلوگیری از تزریق کافی نیست؛ این مطلب درباره طراحی قالب ورودی است.
برای زمینه کاربردی نزدیک، راهنمای مرتبط موجود را هم ببینید؛ این مطلب بر تصمیم فنی متفاوتی تمرکز دارد.
منبع فنی برای مطالعه بیشتر
OWASP: LLM Prompt Injection Prevention. مثال‌ها و فرم این مطلب برای آموزش طراحی شده‌اند و نتیجه مشتری یا آزمون محصول نیستند.