نیاز به تأیید انسان را با اثر اقدام، برگشت‌پذیری و اختیار کاربر تعیین کنید. تأیید باید به متن، مقصد و نسخه همان اقدام متصل باشد، نه یک اجازه مبهم و دائمی.
مسئله را درست تعریف کنیم
پیش‌نویس‌سازی با ارسال فرق دارد. تغییر مبلغ، حذف داده یا تعهد بیرونی می‌تواند اثر جدی داشته باشد و به اطلاعات روشن برای تصمیم نیاز دارد.
روش اجرا
- اقدام‌ها را از نظر اثر و امکان بازگشت دسته‌بندی کنید.
- قبل از تأیید پیش‌نمایش دقیق و مقصد را نشان دهید.
- اگر متن یا مقصد تغییر کرد تأیید قبلی را نامعتبر کنید.
نمونه آموزشی
در نمونه آموزشی، کاربر پیش‌نویس ایمیل را تأیید کرده ولی نام گیرنده بعداً عوض می‌شود. سامانه نباید آن را همان اقدام بداند. متن نهایی و گیرنده جدید باید برای تصمیم دوباره نمایش داده شوند؛ اجرای خودکار به تأیید قدیمی متکی نباشد.
آزمون تکمیلی برای تصمیم عملی
در تمرین آموزشی، یک اقدام بیرونی مانند ثبت یک درخواست فرضی را پیش از اجرا به شکل قابل بررسی نمایش دهید. تأیید باید معلوم کند چه عملیاتی، روی کدام مقصد و با چه داده‌ای قرار است انجام شود. اگر پس از تأیید، مقصد یا داده مؤثر تغییر کرد، همان تأیید را برای عملیات تازه کافی ندانید. یک برچسب ساده در متن گفت‌وگو یا مقدار اعتماد مدل نیز به‌تنهایی شاهد مجوز معتبر در جزء اجراکننده نیست. این تمرین اقدامی روی سامانه واقعی انجام نمی‌دهد.
برای کنترل تکرار، روشن کنید یک تأیید قرار است چند بار و در چه بازه‌ای قابل استفاده باشد. حالت مصرف‌شدن، لغو، انقضا و درخواست هم‌زمان را در طراحی بررسی کنید تا تأیید قدیمی برای اجرای دوباره به کار نرود. نتیجه آزمون باید عملیات پیشنهادی و عملیات واقعاً اجراشده را به هم وصل کند. اگر اجرا ناموفق بود، پیش از تلاش مجدد وضعیت اثر قبلی را مشخص کنید؛ نبود پاسخ شبکه الزاماً به معنی انجام‌نشدن عملیات نیست. جزئیات پیاده‌سازی و مجوزهای واقعی باید با تیم مسئول سامانه بررسی شوند.
جدول کار برای همین موضوع
| فیلد ثبت | کاربرد در تصمیم |
|---|---|
| اقدام | ارسال ایمیل پس از پیش‌نویس |
| اثر | اثر بیرونی ایجاد می‌کند |
| برگشت‌پذیری | لغو ارسال معمولاً قابل اتکا نیست |
| مقصد | گیرنده نهایی دقیق نمایش داده شود |
| هش نسخه | نسخه متن و پیوست به تأیید وصل شود |
| تأیید معتبر | تغییر گیرنده، تأیید قبل را نامعتبر می‌کند |
فایل قابل استفاده
دریافت فرم CSV این راهنما. هر سطر را با اطلاعات پروژه خود تکمیل کنید. خانه نامعلوم را نامشخص بگذارید؛ نبود شاهد را با عدد صفر یا تأیید جایگزین نکنید. فایل شامل اطلاعات مشتری واقعی نیست و برای ثبت بررسی به کار می‌رود.
محدودیت و تصمیم بعدی
تأیید انسان جای کنترل مالکیت و مجوز سازمانی را نمی‌گیرد؛ فرد تأییدکننده هم باید اختیار همان اقدام را داشته باشد.
منبع فنی برای مطالعه بیشتر
OWASP: AI Agent Security. مثال‌ها و فرم این مطلب برای آموزش طراحی شده‌اند و نتیجه مشتری یا آزمون محصول نیستند.
ادامه مطالعه مرتبط
برای نمونه کنترل نسخه و تعهد پیش از اقدام بیرونی، قبل از ارسال پیشنهاد فروش چه چیزهایی را بررسی کنیم؟ را ببینید.