کد تولیدشده با مدل را پیش از اجرا مانند کد ناشناس بررسی کنید. ظاهر مرتب، توضیح فراوان یا ادعای خود مدل درباره امنیت، شاهد کافی برای اجرای آن نیست.
مسئله را درست تعریف کنیم
خطر می‌تواند در دسترسی فایل، ارتباط شبکه، مدیریت راز، وابستگی یا منطق مجوز باشد. فقط بررسی دستورهای واضحِ مخرب پوشش کافی ایجاد نمی‌کند.
روش اجرا
- هدف، ورودی و خروجی مورد انتظار کد را تعریف کنید.
- وابستگی‌ها و عملیات فایل و شبکه را به‌صورت ایستا بخوانید.
- در محیط محدود با داده ساختگی و آزمون رفتار اجرا کنید.
نمونه آموزشی
در مثال آموزشی، اسکریپت باید یک CSV را بخواند و جمع ستون را بنویسد. اگر هم‌زمان درخواست شبکه یا خواندن پوشه‌های دیگر دارد، آن رفتار نیازمند دلیل است و تا روشن‌شدن اجرا نمی‌شود. آزمون باید خروجی عددی و نبود اثر جانبی را بررسی کند.
آزمون تکمیلی برای تصمیم عملی
پیش از بررسی کد پیشنهادی، وظیفه و اختیار واقعی آن را بنویسید. کدی که فقط باید متن را قالب‌بندی کند، لزوماً به دسترسی فایل، شبکه یا اجرای فرمان نیاز ندارد. در یک تمرین آموزشی، ورودی، خروجی و مرزهای اعتماد را علامت بزنید و وابستگی‌های پیشنهادی را از نظر ضرورت بررسی کنید. توضیح مدل درباره امن‌بودن کد، شاهد مستقل نیست. هیچ قطعه ناشناخته‌ای را برای فهمیدن رفتار آن مستقیماً در محیط دارای داده یا دسترسی واقعی اجرا نکنید.
بازبینی را به رفتارهای قابل مشاهده وصل کنید: ورودی نامعتبر چگونه رد می‌شود، خطا چه اطلاعاتی آشکار می‌کند و آیا مسیر غیرمجاز قابل انتخاب است؟ آزمون‌ها را در محیط محدود و مجاز با داده ساختگی طراحی کنید و تغییر لازم را با دلیل ثبت کنید. اگر آسیب‌پذیری احتمالی دیده شد، ادعا را به مسیر مشخص کد و شرایط لازم محدود کنید؛ از یک نشانه، وقوع نفوذ را نتیجه نگیرید. قبولی آزمون هم به معنی اثبات نبود همه ایرادها نیست. بازبینی انسانی، کنترل وابستگی و بررسی محیط اجرا هر کدام دامنه جدا دارند.
جدول کار برای همین موضوع
| فیلد ثبت | کاربرد در تصمیم |
|---|---|
| رفتار مورد انتظار | خواندن CSV و جمع ستون |
| عمل فایل | فقط فایل ورودی و خروجی لازم |
| عمل شبکه | ارتباط بیرونی برای این کار دلیل می‌خواهد |
| وابستگی | نام و منشأ بسته قبل از نصب بررسی شود |
| آزمون بی‌خطر | داده ساختگی و محیط محدود |
| تصمیم اجرا | نبود اثر جانبی هم باید بررسی شود |
فایل قابل استفاده
دریافت فرم CSV این راهنما. هر سطر را با اطلاعات پروژه خود تکمیل کنید. خانه نامعلوم را نامشخص بگذارید؛ نبود شاهد را با عدد صفر یا تأیید جایگزین نکنید. فایل شامل اطلاعات مشتری واقعی نیست و برای ثبت بررسی به کار می‌رود.
محدودیت و تصمیم بعدی
اسکن خودکار یا اجرای موفق، نبود همه آسیب‌پذیری‌ها را ثابت نمی‌کند؛ کد حساس به بازبینی تخصصی بیشتری نیاز دارد.
منبع فنی برای مطالعه بیشتر
OWASP: AI Agent Security. مثال‌ها و فرم این مطلب برای آموزش طراحی شده‌اند و نتیجه مشتری یا آزمون محصول نیستند.
ادامه مطالعه مرتبط
اگر کد با CSV کار می‌کند، صحت داده ورودی هم جدا کنترل شود؛ آماده‌سازی CSV برای ورود به CRM؛ چک‌لیست قبل از ایمپورت را ببینید.