دسترسی ابزار ایجنت را بر اساس کار لازم محدود کنید. خواندن رکورد، ویرایش رکورد و ارسال پیام سه اختیار متفاوت‌اند و نباید با یک کلید همه‌کاره واگذار شوند.
مسئله را درست تعریف کنیم
پرامپت می‌تواند قصد کار را توضیح دهد، اما مجوز باید در لایه ابزار و سرور اعمال شود. خطای مدل نباید به دسترسی خارج از محدوده تبدیل شود.
روش اجرا
- برای هر وظیفه عمل و داده لازم را مشخص کنید.
- کلید یا نقش محدود به همان دامنه بسازید.
- درخواست خارج از مجوز را با داده ساختگی آزمایش و رد ثبت کنید.
نمونه آموزشی
در محیط آموزشی، ایجنت فقط باید وضعیت سفارش آزمایشی را بخواند. ابزار ویرایش مبلغ یا مشاهده سفارش کاربر دیگر برای این وظیفه لازم نیست. درخواست خارج از دامنه باید در سرور رد شود، حتی اگر متن پرامپت آن را خواسته باشد.
آزمون تکمیلی برای تصمیم عملی
یک وظیفه آموزشی محدود تعریف کنید: خواندن وضعیت یک درخواست ساختگی، بدون اجازه تغییر آن. سپس فهرست ابزارهای لازم و عملیات مجاز را بنویسید. اگر ابزار موجود هم خواندن و هم ویرایش را با یک اختیار گسترده انجام می‌دهد، صرف درخواست از مدل برای «فقط خواندن» کافی نیست. کنترل باید در جزء اجراکننده و با هویت و محدوده منبع مشخص باشد. در این تمرین هیچ دسترسی واقعی تغییر نمی‌کند؛ هدف روشن‌کردن تفاوت دستور زبانی و اختیار فنی است.
برای بررسی منفی، عملیاتی خارج از وظیفه را در محیط آزمایش در نظر بگیرید و انتظار ردشدن آن را پیش از اجرا بنویسید. نبود دکمه در رابط، جای کنترل عملیات مستقیم را نمی‌گیرد. پس از تغییر وظیفه یا نقش کاربر، محدوده ابزار را دوباره بررسی کنید و اجازه قبلی را خودکار به منبع تازه گسترش ندهید. در کاربرگ، ابزار، عملیات، منبع و دلیل نیاز را جدا ثبت کنید. نتیجه یک آزمون محدود، نبود همه مسیرهای افزایش اختیار را اثبات نمی‌کند؛ ارزیابی امنیتی باید معماری و روش اعمال مجوز را نیز پوشش دهد.
جدول کار برای همین موضوع
| فیلد ثبت | کاربرد در تصمیم |
|---|---|
| وظیفه | خواندن وضعیت سفارش نمونه |
| عمل لازم | خواندن با ویرایش مبلغ فرق دارد |
| داده مجاز | فقط ردیف و فیلد مربوط به همان کاربر |
| دامنه نقش | نقش خواندنی در سرور محدود شود |
| عمل ممنوع | ویرایش یا دیدن سفارش دیگر ممنوع |
| نتیجه آزمون رد | درخواست خارج از دامنه واقعاً رد شود |
فایل قابل استفاده
دریافت فرم CSV این راهنما. هر سطر را با اطلاعات پروژه خود تکمیل کنید. خانه نامعلوم را نامشخص بگذارید؛ نبود شاهد را با عدد صفر یا تأیید جایگزین نکنید. فایل شامل اطلاعات مشتری واقعی نیست و برای ثبت بررسی به کار می‌رود.
محدودیت و تصمیم بعدی
داشتن نقش خواندنی هم ممکن است داده حساس را افشا کند؛ محدودیت ردیف و فیلد همچنان لازم است.
منبع فنی برای مطالعه بیشتر
OWASP: AI Agent Security. مثال‌ها و فرم این مطلب برای آموزش طراحی شده‌اند و نتیجه مشتری یا آزمون محصول نیستند.
ادامه مطالعه مرتبط
برای محدودکردن اطلاعات لازم در یک اتصال CRM، اتصال ایجنت صوتی به CRM؛ چه اطلاعاتی قبل و بعد از تماس ثبت می‌شود؟ را ببینید.