Greedy در هر گام محتمل‌ترین توکنِ بعدی را می‌گیرد؛ Beam Search چند پیشوند را نگه می‌دارد و بقیه را هرس می‌کند؛ Sampling از توزیع نمونه می‌گیرد. تفاوت را با یک درختِ اصیلِ سه‌گامی، نشانِ پایان و سقفِ طول واقعاً اجرا می‌کنیم. هیچ مدلِ زبانی، توکنایزر یا API در این آزمایش اجرا نشده است.
قراردادِ درخت را قبل از خروجی بخوانیم
سه شاخهٔ آغازین oak، pine و elm به‌ترتیب احتمالِ ۰٫۴،۰٫۳۵ و۰٫۲۵ دارند. این‌ها فقط نمادِ آموزشی‌اند. پس از oak، گزینهٔ a با احتمالِ ۰٫۶ و پایان با ۰٫۴ می‌آید؛ پس از oak,a نیز پایان و b هرکدام ۰٫۵ دارند. همهٔ شاخه‌هایِ دیگر و احتمال‌هایشان در فایلِ همراه روشن‌اند.
حداکثر سه توکن، با احتسابِ نشانِ پایان، تولید می‌شود. امتیاز، حاصل‌ضربِ خامِ احتمال‌هایِ شرطی است؛ جریمه یا نرمال‌سازیِ طول نداریم. در تساوی، ترتیبِ واژگانیِ نمادها قاعدهٔ ثابت است. پیشوندی که به سقف برسد اما پایان نداشته باشد، کامل نامیده نمی‌شود.
گسترش و هرس در عرضِ دو
در گامِ اول، beam با عرضِ دو فقط oak و pine را نگه می‌دارد؛ elm با احتمالِ ۰٫۲۵ کنار می‌رود. گامِ دوم، oak,a با امتیازِ ۰٫۲۴ و pine,a با ۰٫۱۷۵ باقی می‌مانند. در گامِ سوم، pine,a,پایان با ۰٫۱۷۵ از oak,a,پایان با ۰٫۱۲ جلو می‌زند. JSON فهرستِ همهٔ گزینه‌هایِ گسترش‌یافته، نگه‌داشته و حذف‌شدهٔ هر گام را دارد.
خروجیِ کاملِ زودتر، اگر در beam باقی بماند، بدونِ افزودنِ توکن به گامِ بعد حمل می‌شود. بااین‌حال می‌تواند هنگامِ هرس از فهرست خارج شود. این جزئیاتِ الگوریتمِ محدودِ ماست؛ آن را تطبیقِ کاملِ تمامِ تنظیماتِ generate در Transformers نمی‌نامیم.
عرضِ بزرگ‌تر در همین درخت چه می‌کند؟
| روشِ اجراشده | بهترین خروجیِ کاملِ باقی‌مانده | احتمالِ مشترک |
|---|---|---|
| Greedy و beam با عرضِ یک | oak,a,پایان | ۳÷۲۵ =۰٫۱۲ |
| beam با عرضِ دو | pine,a,پایان | ۷÷۴۰ =۰٫۱۷۵ |
| beam با عرضِ سه | elm,a,پایان | ۱÷۴ =۰٫۲۵ |
برایِ کنترل، همهٔ برگ‌هایِ درختِ کوچک را نیز شمرده‌ایم. بهترینِ کامل elm,a,پایان است؛ عرضِ دو آن را از همان گامِ اول حذف کرده بود. پس نگه‌داشتنِ چند شاخه هم تضمینِ یافتنِ بهترینِ دنبالهٔ کامل نیست. عرضِ سه فقط در همین درخت با oracle برابر شده است؛ نتیجه را به همهٔ مسئله‌ها تعمیم نمی‌دهیم.
نمونه‌گیری هم واقعاً انجام شد
با random.Random(11) و ترتیبِ صریحِ گزینه‌هایِ فایل، سه قرعه ثبت شده‌اند. مسیر pine,b,d به‌دست آمد و در سومین توکن به سقف رسید؛ نشانِ پایان ندارد، پس خروجیِ کامل نیست. این یک نمونهٔ واقعی از توزیعِ دست‌سازِ تمرین است، نه متنِ تولیدشدهٔ یک مدل یا برآوردِ فراوانی با هزاران اجرا.
عوض‌کردنِ ترتیبِ گزینه‌ها، قراردادِ نمونه‌گیری یا نسخهٔ محیط می‌تواند بازتولیدِ مسیر را تحتِ تأثیر قرار دهد؛ به همین دلیل خودِ قرعه‌ها و گزینهٔ انتخابی هم ذخیره شده‌اند. یک seed معین، کیفیتِ پاسخ یا صحتِ ادعا را تأیید نمی‌کند.
احتمالِ دنباله، معیارِ حقیقت نیست
حاصل‌ضربِ خام در اینجا خروجی‌هایِ کوتاه و بلند را با قراردادِ مشخص مقایسه می‌کند؛ اگر طول‌نرمال‌سازی اضافه کنید، هدفِ امتیاز عوض می‌شود. عددِ بالاتر هم نمی‌گوید پاسخِ مربوط به قیمت، موجودی یا تصمیمِ مشتری درست‌تر است. معیارِ کاربرد باید جدا با منبع و نمونهٔ معتبر سنجیده شود.
تولیدِ توکنِ بعدی احتمالِ زنجیرهٔ دوگامی را توضیح می‌دهد؛ اینجا هرسِ واقعی، EOS و سقفِ طول افزوده شده‌اند. تولیدِ حدسی موضوعِ تأییدِ پیشنهاد توسطِ مدلِ هدف است و با این جست‌وجو یکسان نیست. مسیرِ مبانی در آموزشِ هوشِ مصنوعیِ اپرا ادامه دارد؛ این تمرین روشِ داخلیِ تولیدِ محصولات را اعلام نمی‌کند.
فایل تمرین و منبع
گسترش و هرسِ واقعیِ beam، پایان و نمونه‌گیریِ ثبت‌شده · تمامِ شاخه‌ها، هرس‌ها، oracle کوچک و سه قرعهٔ نمونه‌گیری
منابع در 2026-11-04 خوانده شدند؛ این تاریخ، تاریخ انتشار منبع نیست. مثال‌ها و فایل‌های این راهنما آموزشی و ساختهٔ تحریریه‌اند.