بودجه توکن فقط سقف پاسخ نیست. دستور، تاریخچه، سند بازیابی‌شده و خروجی باید در ظرفیت واقعی مدل جا شوند. شمار واژه با توکن یکی نیست و فارسی نیز نسبت ثابتی ندارد. بودجه را با شمارنده سازگار با مدل و داده آزمایشی خودتان بسنجید، نه تبدیل ثابت کلمه به توکن.
روش اجرا و تصمیم‌گیری
ظرفیت و محدودیت خروجی مدل انتخابی را از مستندات همان نسخه بخوانید. سپس سهم دستور ثابت، پیام کاربر، تاریخچه، اسناد و پاسخ را جدا ثبت کنید. فضای لازم برای خروجی را پیش از افزودن سندهای بیشتر رزرو کنید؛ پرکردن کامل ورودی می‌تواند پاسخ را محدود یا درخواست را رد کند.
برای حذف محتوا قاعده بسازید. بریدن تصادفی انتهای سند ممکن است استثنا یا شرط مهم را حذف کند. بخش‌های مرتبط را با شاهد انتخاب کنید و اگر سند ناقص شده، این وضعیت را به مسیر پاسخ منتقل کنید. خلاصه‌سازی تاریخچه هم باید تصمیم‌ها و محدودیت‌های مهم را حفظ کند.
در هر اجرا مقدار واقعی و علت حذف بخش‌ها را ثبت کنید. درخواست طولانی را می‌توان با سؤال تکمیلی یا تقسیم کار مدیریت کرد؛ افزایش خودکار ظرفیت، قیمت یا مجوز تازه را فرض نکنید. کیفیت پاسخ پس از کاهش ورودی باید روی موارد دشوار دوباره آزمون شود.
نمونهٔ ساختگی و قابل تکرار
فرض آموزشی، ظرفیت ده‌هزار توکن برای یک محیط نمونه است؛ این عدد مشخصات هیچ مدل معرفی‌شده‌ای نیست. دو هزار برای دستور و پیام، سه هزار برای سند و دو هزار برای خروجی کنار گذاشته شده و سه هزار حاشیه باقی است. اگر سند جدید پنج هزار شود، برنامه باید سهم‌ها را دوباره کنترل کند، نه اینکه پاسخ را بی‌خبر ببرد. معیار پذیرش فقط جا شدن عددها نیست؛ پاسخ باید همچنان شرط مؤثر سند را درست نگه دارد.
محدودیت‌ها و خطاهای رایج
ظرفیت بزرگ‌تر تضمین فهم بهتر یا پاسخ دقیق‌تر نیست. رفتار شمارش، پیام‌های ابزار و هزینه در ارائه‌دهندگان فرق دارد. برای داده حساس، ثبت بودجه به ذخیره متن کامل نیاز ندارد؛ عدد و شناسه نسخه معمولاً برای پایش پایه کافی‌اند.
کنترل پیش از استفاده
| کنترل | معیار پذیرش |
|---|---|
| شمارش | توکن با ابزار سازگار همان مدل اندازه‌گیری شود. |
| سهم‌ها | دستور و سند و تاریخچه و خروجی بودجه جدا داشته باشند. |
| کیفیت | حذف ورودی، شرط و شاهد لازم پاسخ را از بین نبرد. |
کاربرگ همراه
کاربرگ فقط تقسیم بودجه را نشان می‌دهد. اعداد نمونه را با محدودیت واقعی مدل جایگزین کنید و مصرف مشاهده‌شده را جدا ثبت کنید. حاشیه ظرفیت، مجوز مصرف بیشتر یا تضمین هزینه نهایی نیست.
دریافت کاربرگ CSV این راهنما — داده‌های داخل فایل نمونهٔ ساختگی‌اند. نسخهٔ اصلی را نگه دارید و برای آزمون خودتان یک کپی بسازید.
منبع و ادامهٔ کار
OWASP: مصرف بدون سقف. تاریخ بررسی منابع: ۱ نوامبر ۲۰۲۶.
اگر کاربرد شما پاسخ‌گویی به مشتری است، مسیر مرتبط اپرا را ببینید و مسئله و محدودیت‌های همین کاربرگ را برای بررسی در دمو همراه داشته باشید.