سناریوی مرجع
کارتها همزمان اشباعاند و بیکار
چند گروه، کارتهای گران، تقسیم عادلانه
این یک مطالعهٔ موردی مشتری نیست. یک الگوی پیادهسازی است: وضعیتی که در ارزیابی الزامات سازمانی جمع کردهایم، با معماری راهحل و مکانیزم دقیقی که آن را ممکن میکند. چرا هنوز مشتری مرجع عمومی نداریم
شانزده کارت GPU از سه مدل مختلف، خریداریشده در سه دورهٔ متفاوت. چهار تیم متقاضی: تیم آموزش مدل با کار سنگین چندکارتی هفتهای دو بار، تیم استنتاج با بار مداوم ولی سبک، تیم پژوهش با کارهای کوتاه و غیرقابلپیشبینی — و یک نفر که سه ماه پیش یک کارت گرفت و هنوز رهایش نکرده.
چهار مشکل، چهار مکانیزم
مشکل ۱ — ناوگان ناهمگون
سه مدل کارت، سه نیاز درایور متفاوت. اگر همه یک برنامهٔ درایور بگیرند، بعضی نودها خراب میشوند. مکانیزم: برنامهٔ درایور بهازای مدل. وضعیت هر نود جدا گزارش میشود، و پیش از نصب، پیشنیازها بررسی میشوند.
مشکل ۲ — کارِ سبک، کارتِ کامل
تیم استنتاج ۱۵٪ ظرفیت یک کارت را میخواهد ولی کل کارت را میگیرد. مکانیزم: برش MIG برای جدایی سختافزاری، یا اشتراک زمانی برای وقتی که فقط میخواهید کارت بیکار نماند.
مشکل ۳ — بنبست کارِ چندکارتی، و مکانیزمی که آن را حذف میکند.
کارِ آموزش به ۸ کارت نیاز دارد، ۵ تا آزاد است. کار شروع میشود، ۵ کارت را میگیرد، منتظر ۳ تای بعدی میماند — و آن ۵ کارت هم قفل میشوند. اجرای گروهی یعنی کار یا با ظرفیت کامل شروع میشود یا اصلاً — و تا آن موقع کارتها آزادند.
مشکل ۴ — کارتِ رهاشده
مکانیزم: سهمیهٔ بهازای تیم، پاکسازی خودکار منابع بیاستفاده، و گزارش مصرف که نشان میدهد چه کسی چه چیزی را نگه داشته.
انتخاب بر اساس حافظه
کاربر نمیگوید «کارت مدل X میخواهم». میگوید «۲۴ گیگابایت حافظهٔ GPU میخواهم» — و پلتفرم ارزانترین گزینهٔ موجود که پاسخ میدهد را انتخاب میکند، همراه با پیشفاکتور.
این یک تفاوت عملیاتی بزرگ است: کاربر لازم نیست موجودی ناوگان را بداند.
گزارش و صورتحساب
- ساعت GPU بهازای تیم
- تفکیکشده
- به تفکیک مدل کارت
- هر مدل نرخ خودش را دارد
- برش MIG
- بر اساس کسر حافظه
- دقت
- ساعتی یا دقیقهای
- هزینهٔ معادل ابری
- برای مقایسه
سلامت ناوگان
- متریک DCGM
- دما، مصرف، استفاده، خطا
- cordon خودکار
- نودی که کارت خرابش دارد از جدولبندی خارج میشود
- هشدار
- پیش از رسیدن به خرابی کامل
اینها را هم ببینید
ناوگان و متقاضیهایتان را بیاورید.
نشان میدهیم سهمیه، صف و برش روی همان کارتها چطور مینشیند.