رفتن به محتوای اصلی
بازگشت به وبلاگ

سخت‌افزار هوش مصنوعی

آیا حافظه دو کارت گرافیک برای اجرای مدل با هم جمع می‌شود؟

پیش از خرید GPU دوم، تقسیم مدل را از تکثیر آن برای درخواست‌های بیشتر جدا کنید؛ جمع دو ظرفیت اسمی، اجرای مدل بزرگ‌تر را تضمین نمی‌کند.

دو کارت گرافیک معمولاً به‌صورت خودکار به یک حافظه بزرگ تبدیل نمی‌شوند. استفاده از حافظه هر دو به تقسیم مدل یا درخواست‌ها در نرم‌افزار وابسته است. پیش از خرید کارت دوم، مشخص کنید برنامه از چه نوع چندپردازنده‌ای پشتیبانی می‌کند و چه محدودیتی برای هر بخش مدل دارد.

دو شیوه متفاوت را اشتباه نگیریم

در یک روش، روی هر کارت نسخه‌ای از مدل قرار می‌گیرد و درخواست‌های بیشتری پردازش می‌شوند. این روش الزاماً مدل بزرگ‌تر را جا نمی‌دهد. در روش دیگر، بخش‌های مدل میان دستگاه‌ها پخش می‌شوند. در این حالت ارتباط میان کارت‌ها، اندازه لایه‌ها و سازگاری موتور مهم‌اند. وجود دو درگاه روی مادربرد، پشتیبانی نرم‌افزاری را ثابت نمی‌کند.

پیش از توسعه سیستم چه بررسی شود؟

راهنمای رسمی اجرای چند GPU در موتور انتخابی را بخوانید. حداقل حافظه لازم برای بخش‌های تقسیم‌نشدنی و شیوه ارتباط را پیدا کنید. سپس با مدل آزمایشی، مصرف هر دستگاه و زمان پاسخ را ثبت کنید. توان منبع تغذیه، فضای کیس و خنک‌کاری را نیز با مشخصات سازنده بررسی کنید. خرید را صرفاً براساس جمع عدد حافظه انجام ندهید.

نمونه عملی

در مثال آموزشی، دو کارت ۱۲ گیگابایتی دارید و مدلی می‌خواهید که روی یک کارت جا نمی‌شود. نوشتن «۲۴ گیگابایت حافظه مدل» در پیشنهاد فنی بدون آزمون درست نیست. ابتدا ببینید موتور، وزن‌ها را بین کارت‌ها توزیع می‌کند یا از هر کارت برای نسخه جداگانه استفاده می‌کند. حتی با توزیع موفق، سرعت ممکن است مطابق انتظار رشد نکند. نتیجه کاربرگ باید «آزمون این مدل روی این دو دستگاه» باشد، نه حکم عمومی درباره همه مدل‌ها.

مورد بررسیکار یا شاهد لازمنتیجه مورد انتظار
هدفظرفیت مدل یا تعداد درخواست را مشخص کنیددو نیاز تفکیک شوند
روش توزیعتقسیم مدل یا تکثیر آن را بخوانیدرفتار موتور روشن
محدودیت بخشبزرگ‌ترین جزء تقسیم‌نشدنی بررسی شودکمبود حافظه پنهان نماند
اندازه‌گیریمصرف هر کارت و زمان ثبت شودجمع اسمی جای شاهد نباشد

کاربرگ قابل استفاده

ردیف‌های جدول در فایل CSV این راهنما قرار دارند. ستون نتیجه واقعی، مسئول و تاریخ را پس از بررسی خودتان تکمیل کنید. مثال‌های این نوشته آموزشی‌اند و گزارش آزمون یک محصول یا مشتری نیستند.

محدودیت و قدم بعد

ظرفیت اسمی دو کارت، ظرفیت مؤثر اجرای هر مدل را تضمین نمی‌کند. مدل، قالب و موتور مشخص باید در آزمون حضور داشته باشند.

اگر مسئله اصلی شما پاسخ‌گویی به مشتری است، پیش از هزینه برای زیرساخت، یک گفت‌وگوی واقعی و معیار پذیرش آن را مشخص کنید. برای آشنایی با مسیر محصول، راهنمای چت سایت اپرا و دموی اپرا را ببینید. این راهنما به معنی ارائه خدمات خرید یا اجرای GPU محلی از طرف اپرا نیست.

منبع فنی

برای این نیاز، کدام خدمت مناسب‌تر است؟

تماس و منشی، چت سایت و تحلیل مکالمه سه مسیر متفاوت‌اند. ابتدا خدمت متناسب نیازتان را انتخاب کنید.

انتخاب میان سه خدمتراهنمای شروع با تیم اپرا

برآورد هزینه