رفتن به محتوای اصلی
بازگشت به وبلاگ

اجرای محلی و بدون اینترنت

انتخاب مدل در Ollama؛ اندازه، مجوز و کاربرد را کنار هم ببینیم

نسخه، مجوز و کاربرد مدل Ollama را کنار آزمون فارسی ببینید؛ انتخاب میان مدل‌ها باید به حفظ شرط و داده ناموجود هم توجه کند، نه فقط روانی.

برای انتخاب مدل در Ollama، سه سؤال را کنار هم پاسخ دهید: مدل چه کاری را پوشش می‌دهد، با منابع شما اجرا می‌شود و مجوز آن با استفاده شما سازگار است؟ نام بزرگ‌تر یا دانلود بیشتر، جای آزمون روی متن فارسی و کار واقعی را نمی‌گیرد.

برچسب مدل کافی نیست

نام، نسخه یا شناسه دقیق فایل و روش کم‌دقت‌سازی را ثبت کنید. دو نسخه با نام خانواده یکسان ممکن است قالب گفت‌وگو یا حافظه متفاوت داشته باشند. اگر ورودی تصویری می‌خواهید، پشتیبانی آن را در کارت همان مدل ببینید؛ تولید متن به معنی پذیرش تصویر نیست. محدودیت‌های اعلام‌شده مدل را به زبان ساده در برگه انتخاب بنویسید.

یک مجموعه انتخاب کوچک بسازید

چند پرسش متناسب کار، یک مورد ناقص و یک مورد خارج از محدوده آماده کنید. مدل‌ها را با ورودی و معیار یکسان بسنجید. صحت عدد، حفظ شرط و رفتار هنگام نبود پاسخ را از زیبایی نگارش جدا کنید. مصرف و زمان را در محیط خودتان ثبت کنید. گزینه‌ای که تنها روی نمونه نمایشی عالی است، هنوز انتخاب نهایی نیست.

نمونه عملی

برای دستیار خلاصه‌سازی فارسی، دو مدل قابل اجرای موجود را با سه سند ساختگی مقایسه می‌کنید. یکی متن روان‌تری می‌نویسد ولی استثنای مهم سند را حذف می‌کند؛ دیگری کوتاه‌تر اما دقیق‌تر است. در این مثال، تصمیم باید به معیار خلاصه درست متکی باشد. نام مدل‌ها و اعداد نتیجه در این مقاله عمداً ساخته نشده‌اند؛ CSV برای ثبت آزمون واقعی شماست و هیچ مدل را برنده اعلام نمی‌کند.

مورد بررسیکار یا شاهد لازمنتیجه مورد انتظار
هویتنسخه و شناسه مدل ثبت شودانتخاب قابل تکرار
مجوزمتن مجوز همان نسخه خوانده شوداستفاده مجاز بررسی
کاربردورودی و خروجی لازم مشخص شوندمدل مناسب وظیفه
آزمونکیفیت و زمان و حافظه سنجیده شوندتصمیم مبتنی بر شاهد

کاربرگ قابل استفاده

ردیف‌های جدول در فایل CSV این راهنما قرار دارند. ستون نتیجه واقعی، مسئول و تاریخ را پس از بررسی خودتان تکمیل کنید. مثال‌های این نوشته آموزشی‌اند و گزارش آزمون یک محصول یا مشتری نیستند.

محدودیت و قدم بعد

سازگاری و مدل‌های قابل دسترس ممکن است تغییر کنند. استفاده تجاری یا انتقال مدل را از روی برچسب کلی «باز» نتیجه نگیرید؛ متن مجوز و شرایط همان نسخه ملاک است.

اگر مسئله اصلی شما پاسخ‌گویی به مشتری است، پیش از هزینه برای زیرساخت، یک گفت‌وگوی واقعی و معیار پذیرش آن را مشخص کنید. برای آشنایی با مسیر محصول، راهنمای چت سایت اپرا و دموی اپرا را ببینید. این راهنما به معنی ارائه خدمات خرید یا اجرای GPU محلی از طرف اپرا نیست.

منبع فنی

برای این نیاز، کدام خدمت مناسب‌تر است؟

تماس و منشی، چت سایت و تحلیل مکالمه سه مسیر متفاوت‌اند. ابتدا خدمت متناسب نیازتان را انتخاب کنید.

انتخاب میان سه خدمتراهنمای شروع با تیم اپرا

برآورد هزینه