ایجنت مرورگر باید محتوای سایت را داده بداند، نه دستور معتبر کاربر. متن صفحه نمی‌تواند به‌تنهایی اجازه ارسال پیام، تغییر حساب یا خواندن فایل خصوصی بدهد.
مسئله را درست تعریف کنیم
صفحه ممکن است نقل‌قول، تبلیغ، محتوای کاربران یا پیام خطا داشته باشد. همه این موارد می‌توانند ظاهری دستوری داشته باشند ولی اختیار اقدام ایجاد نمی‌کنند.
روش اجرا
- هدف و مقصد مجاز کار را پیش از مرور ثبت کنید.
- عمل‌های خواندنی و تغییردهنده را در ابزار جدا کنید.
- قبل از اقدام بیرونی پیش‌نمایش نهایی و تأیید همان نسخه را بگیرید.
نمونه آموزشی
در سناریوی آموزشی، کاربر فقط مقایسه دو صفحه را می‌خواهد و یکی از صفحات پیشنهاد ثبت‌نام دارد. ایجنت باید اطلاعات را بخواند و گزارش دهد؛ وجود دکمه یا متن دعوت، مجوز ارسال اطلاعات کاربر یا عضویت خودکار نیست.
آزمون تکمیلی برای تصمیم عملی
یک کار آموزشی فقط‌خواندنی تعریف کنید؛ مثلاً یافتن توضیح عمومی یک خدمت. پیش از شروع، مقصدهای لازم و اقدام‌های خارج از کار را بنویسید. ورود به صفحه، خواندن متن و ارسال فرم اختیار یکسانی ندارند. محتوای صفحه یا فایل دانلودشده نیز نباید دستور تازه‌ای برای تغییر هدف تلقی شود. اگر در جریان خواندن، پیامی پیشنهاد ارسال اطلاعات یا تغییر تنظیمات داد، آن را بخشی از محتوای نامطمئن بدانید و مجوز کار را از آن استخراج نکنید.
برای اقدام بیرونیِ واقعاً لازم، متن و مقصد و اثر را پیش از اجرا قابل بررسی کنید و کنترل مستقل همان عملیات را در نظر بگیرید. داده ورود یا محتوای خصوصی نباید در گزارش عمومی آزمون بیاید. حالت تغییر مسیر، بازشدن پنجره تازه و تغییر صفحه میان بررسی و اجرا را هم در محیط مجاز بسنجید. نتیجه یک وظیفه ساده، ایمنی همه رفتارهای مرورگر را ثابت نمی‌کند. کاربرگ باید نشان دهد ایجنت چه چیزی را دید، چه اجازه‌ای داشت و واقعاً چه کرد؛ این سه را به یک برچسب «انجام شد» تقلیل ندهید.
جدول کار برای همین موضوع
| فیلد ثبت | کاربرد در تصمیم |
|---|---|
| هدف کاربر | کاربر فقط مقایسه دو صفحه خواسته |
| منبع صفحه | دعوت ثبت‌نام محتوای صفحه است |
| عمل مجاز | خواندن و گزارش‌دادن در دامنه کار |
| عمل نیازمند تأیید | ثبت‌نام نیازمند اجازه همان اقدام است |
| مقصد | دکمه سایت مقصد خودکار مجاز نمی‌سازد |
| تصمیم ابزار | پرامپت صفحه نباید اختیار ابزار را تغییر دهد |
فایل قابل استفاده
دریافت فرم CSV این راهنما. هر سطر را با اطلاعات پروژه خود تکمیل کنید. خانه نامعلوم را نامشخص بگذارید؛ نبود شاهد را با عدد صفر یا تأیید جایگزین نکنید. فایل شامل اطلاعات مشتری واقعی نیست و برای ثبت بررسی به کار می‌رود.
محدودیت و تصمیم بعدی
این مطلب سیاست اختیار ایجنت مرورگر است؛ آزمون دستور پنهان در فایل دانش، سناریوی دیگری دارد و جدا بررسی می‌شود.
برای زمینه کاربردی نزدیک، راهنمای مرتبط موجود را هم ببینید؛ این مطلب بر تصمیم فنی متفاوتی تمرکز دارد.
منبع فنی برای مطالعه بیشتر
OWASP: LLM Prompt Injection Prevention. مثال‌ها و فرم این مطلب برای آموزش طراحی شده‌اند و نتیجه مشتری یا آزمون محصول نیستند.