شرکت فناوری اطلاعات ابری آکو
تامین تجهیزات و راهکار های IT
تامین تجهیزات و راهکار های IT
سرور Dell PowerEdge XE9680L یک پلتفرم دو سوکته 4U با خنکسازی مستقیم مایع است که برای آموزش مدلهای بزرگ هوش مصنوعی، استنتاج در مقیاس وسیع و بارهای کاری HPC طراحی شده است. پشتیبانی از هشت شتابدهنده NVIDIA HGX متصل از طریق NVLink، تفاوت اصلی این مدل با سرورهای عمومی دیتاسنتر است.
خرید سرور PowerEdge XE9680L زمانی منطقی است که سازمان به پردازش متراکم GPU، ارتباط پرسرعت میان شتابدهندهها و بهرهبرداری مستمر نیاز داشته باشد. زیرساخت برق، خنکسازی مایع، شبکه و Storage نیز باید متناسب با کانفیگ نهایی طراحی شوند.
PowerEdge XE9680L یک سرور عمومی برای اجرای هر نوع Workload نیست. این محصول در گروه سرورهای Dell AI قرار میگیرد و معماری آن حول یک مجموعه هشتگانه GPU، ارتباط NVLink و خنکسازی مستقیم مایع شکل گرفته است.
هدف اصلی این معماری، افزایش تراکم پردازش شتابیافته در رک و فراهمکردن یک بستر Scale-up برای Workloadهایی است که باید داده را میان چند GPU با پهنای باند بالا مبادله کنند. آموزش مدلهای زبانی بزرگ، Fine-tuning مدلهای پیچیده، استنتاج دستهای در مقیاس بالا و شبیهسازیهای علمی از نمونههای اصلی این Workloadها هستند.
NVIDIA HGX یک پلتفرم شتابیافته یکپارچه است که چند GPU دیتاسنتری را همراه با فناوریهایی مانند NVLink و NVLink Switch در یک معماری هماهنگ ارائه میکند. HGX با نصب چند کارت گرافیک مستقل PCIe یکسان نیست و برای پردازشهای چند GPU با ارتباط داخلی پرسرعت طراحی شده است.
حرف L در این مدل به جایگاه آن بهعنوان نسخه متراکمتر و مبتنی بر Liquid Cooling اشاره دارد. XE9680L در شاسی 4U ارائه میشود؛ در حالی که سرور PowerEdge XE9680 یک پلتفرم 6U است و دامنه متنوعتری از شتابدهندههای NVIDIA، AMD و Intel را در کانفیگهای مختلف پوشش میدهد.
بنابراین XE9680L را نباید صرفاً نسخه کوچکتر XE9680 دانست. تفاوت در خنکسازی، GPUهای پشتیبانیشده، توان موردنیاز، الزامات Rack و معماری استقرار میتواند مسیر طراحی دیتاسنتر را تغییر دهد.
قابلیتهای امنیتی داخلی سرور از Firmware، فرایند Boot، پیکربندی مدیریتی و رسانههای ذخیرهسازی محافظت میکنند؛ اما بهتنهایی جایگزین طراحی امنیت شبکه، کنترل دسترسی، Backup، رمزنگاری Application و سیاستهای حفاظت از داده نیستند.
مشخصات زیر بر اساس پیکربندیهای اعلامشده برای PowerEdge XE9680L تنظیم شدهاند. دسترسپذیری CPU، GPU، حافظه، NIC، منبع تغذیه و سایر قطعات میتواند به منطقه، زمان سفارش، Firmware و ماتریس پشتیبانی Dell وابسته باشد.
XE9680L از دو پردازنده نسل پنجم Intel Xeon Scalable با حداکثر 64 هسته برای هر CPU پشتیبانی میکند. این پردازندهها مسئول اجرای سیستمعامل، مدیریت داده، Pre-processing، هماهنگی GPUها و Workloadهای وابسته به CPU هستند.
سیستم دارای 32 اسلات DDR5 RDIMM و حداکثر 4 ترابایت حافظه است. سرعت حافظه میتواند در پیکربندی یک DIMM در هر کانال به 5600 MT/s و در پیکربندی دو DIMM در هر کانال به 4400 MT/s برسد.
کانفیگهای اصلی شتابدهنده این مدل عبارتاند از:
GPUها در هر دو معماری از نوع SXM هستند و از طریق NVIDIA NVLink به یکدیگر متصل میشوند. انتخاب H200 یا B200 باید با توجه به چارچوب نرمافزاری، نوع مدل، ظرفیت حافظه GPU، توان دیتاسنتر، زمان تحویل و بودجه پروژه انجام شود.
NVIDIA H100 در مشخصات فعلی اعلامشده برای XE9680L بهعنوان گزینه اصلی این مدل درج نشده است. سازمانهایی که به H100 یا تنوع بیشتری از معماریهای GPU نیاز دارند، باید مدل XE9680 یا سایر پلتفرمهای سازگار را نیز بررسی کنند.
فضای ذخیرهسازی Front-end شامل حداکثر هشت درایو 2.5 اینچی NVMe با ظرفیت خام حداکثر 122.88 ترابایت است. برخلاف برخی سرورهای عمومی PowerEdge، این مدل برای ترکیب داخلی HDD، SAS و SATA طراحی نشده و تمرکز آن بر NVMe پرسرعت است.
برای Boot میتوان از BOSS-N1 شامل دو SSD نوع M.2 NVMe با HWRAID 1 استفاده کرد. این تفکیک به سازمان اجازه میدهد رسانه Boot را از فضای داده Workload جدا نگه دارد.
XE9680L یک اسلات OCP 3.0 و حداکثر 12 اسلات PCIe Gen5 x16 در اختیار دارد. سرعت و تعداد پورتهای شبکه باید بر اساس NIC انتخابشده تعیین شوند؛ بنابراین عبارتهایی مانند «پشتیبانی ثابت از 10/25GbE» توصیف کاملی از قابلیت شبکه این مدل نیست.
| بخش | مشخصات | نکته تصمیمگیری |
|---|---|---|
| فرم فکتور | Rack Server با ارتفاع 4U | عمق، وزن، ریل و ظرفیت تحمل Rack باید با BOM نهایی بررسی شوند. |
| پردازنده | دو پردازنده نسل پنجم Intel Xeon Scalable؛ حداکثر 64 هسته برای هر CPU | مدل CPU باید با نیاز GPU، توان، Licensing نرمافزار و بار CPU هماهنگ شود. |
| حافظه | 32 اسلات DDR5 RDIMM؛ حداکثر 4 ترابایت | ظرفیت، تعداد DIMM و الگوی کانالها روی سرعت مؤثر حافظه اثر میگذارند. |
| GPU | هشت NVIDIA HGX H200 یا هشت NVIDIA HGX B200 | GPU انتخابی باید در ماتریس رسمی همان کانفیگ، Firmware و نرمافزار تأیید شود. |
| ارتباط GPU | NVIDIA NVLink و NVLink Switch | برای مدلهای توزیعشده روی چند GPU مزیت کلیدی محسوب میشود. |
| Storage داخلی | حداکثر 8 درایو 2.5 اینچی NVMe؛ حداکثر 122.88 ترابایت خام | ظرفیت مؤثر به RAID، فایلسیستم، رزرو فضا و معماری داده وابسته است. |
| Boot | BOSS-N1 با دو M.2 NVMe و HWRAID 1 | برای جداسازی رسانه Boot از فضای داده مناسب است. |
| توسعه | حداکثر 12 اسلات PCIe Gen5 x16 و یک OCP 3.0 | تعداد اسلات قابل استفاده به Riser و کانفیگ نهایی وابسته است. |
| خنکسازی | Direct Liquid Cooling برای CPU، GPU و NVLink Switch | آمادگی Facility، کیفیت مایع، CDU، اتصالات و فرایند نگهداری ضروری است. |
| منابع تغذیه | منابع تغذیه Titanium افزونهپذیر و Redundant؛ گزینه 3000W برای کانفیگ B200 | توان Rack، PDU، کابل، فاز و ظرفیت UPS باید بر اساس بار واقعی محاسبه شود. |
| مدیریت | iDRAC9، Redfish API، OpenManage Enterprise و CloudIQ for PowerEdge | برخی قابلیتهای پیشرفته به License مناسب iDRAC نیاز دارند. |
| امنیت | Secure Boot، Firmware امضاشده، Silicon Root of Trust، Secure Erase و TPM 2.0 | پشتیبانی از SED و مدیریت کلید به نوع Drive و طراحی امنیت وابسته است. |
این سرور زمانی بیشترین ارزش را ایجاد میکند که Workload بتواند از هشت GPU و ارتباط NVLink استفاده کند. اجرای نرمافزاری که تنها یک یا دو GPU را درگیر میکند، ممکن است بخش قابل توجهی از ظرفیت سیستم را بلااستفاده بگذارد.
دانشگاهها، آزمایشگاهها و مراکز تحقیقاتی میتوانند برای شبیهسازی مولکولی، محاسبات ژنومیک، دینامیک سیالات، مدلسازی اقلیمی، پردازش لرزهای و سایر الگوریتمهای شتابیافته از این پلتفرم استفاده کنند.
دستیابی به عملکرد مناسب در HPC فقط به تعداد GPU وابسته نیست. کتابخانههای محاسباتی، نسخه Driver، CUDA، MPI، شبکه Cluster، Storage و نحوه Parallelization نرمافزار نیز باید بهینه شوند.
Cloud Providerها میتوانند XE9680L را برای ارائه GPU as a Service، پلتفرمهای اختصاصی AI، محیطهای تحقیقاتی و سرویسهای Managed Machine Learning به کار بگیرند. این مدل برای Cloud عمومی مبتنی بر ماشینهای مجازی عادی طراحی نشده و ارزش اصلی آن در Instanceهای شتابیافته است.
شرکتهای فینتک نیز میتوانند از این توان برای آموزش مدلهای کشف تقلب، تحلیل ریسک، پردازش اسناد مالی و شبیهسازیهای Monte Carlo شتابیافته استفاده کنند. مناسببودن آن برای معاملات بلادرنگ باید بر اساس Latency کل سامانه و ماهیت الگوریتم بررسی شود، نه صرفاً قدرت GPU.
برای مجازیسازی عمومی، File Server، دیتابیسهای معمولی، Workloadهای صرفاً CPU محور یا پروژههایی که استفاده از GPU آنها مقطعی است، سرورهای عمومی یا مدلهای GPU کوچکتر معمولاً هزینه و پیچیدگی کمتری دارند.
برتری XE9680L در حداکثر RAM یا انعطاف Storage نیست؛ مزیت اصلی آن تراکم هشت GPU مبتنی بر NVIDIA HGX، ارتباط NVLink و خنکسازی مستقیم مایع در شاسی 4U است. برای نمونه، PowerEdge R760 میتواند ظرفیت RAM بیشتری ارائه کند، اما برای همان کلاس از پردازش هشتگانه HGX طراحی نشده است.
| مدل | جایگاه اصلی | GPU و خنکسازی | سناریوی مناسب |
|---|---|---|---|
| PowerEdge XE9680L | سرور 4U فوقمتراکم برای AI و HPC | هشت H200 یا B200 مبتنی بر HGX؛ Direct Liquid Cooling | مدلهای بزرگ، Fine-tuning، استنتاج گسترده و HPC شتابیافته |
| PowerEdge XE9680 | سرور 6U هشتشتابدهنده با گزینههای متنوعتر | قابل ارائه با معماریهای NVIDIA، AMD یا Intel در کانفیگهای مختلف | سازمانهایی که انعطاف بیشتری در انتخاب Accelerator میخواهند |
| PowerEdge R760XA | سرور 2U بهینهشده برای GPU | تعداد کمتر GPU دو اسلات نسبت به پلتفرم هشتگانه HGX | AI، VDI، Rendering و HPC با مقیاس متوسطتر |
| PowerEdge R760 | سرور عمومی 2U دو سوکته | شتابدهندههای محدودتر و تمرکز بیشتر بر تنوع Workload | مجازیسازی، دیتابیس، برنامههای سازمانی و زیرساخت عمومی |
| PowerEdge R740 | نسل قدیمیتر سرور عمومی 2U | DDR4، PCIe Gen3 و GPUهای نسل پیشین | توسعه زیرساختهای موجود یا Workloadهای سازگار با نسل چهاردهم |
در صورتی که پروژه به شتابدهندههای PCIe متعدد، انعطاف بیشتر در نوع GPU یا معماری CPU متفاوت نیاز دارد، بررسی PowerEdge XE7740 و PowerEdge XE7745 نیز میتواند به انتخاب دقیقتر کمک کند.
ROI این سرور از قیمت سختافزار بهتنهایی به دست نمیآید. نرخ استفاده واقعی GPU، مدت آموزش مدل، هزینه برق و خنکسازی، قیمت License، هزینه شبکه و Storage، زمان تیم فنی و امکان تجمیع چند پروژه باید در مدل مالی وارد شوند. خرید یک سیستم هشتگانه برای Workload کماستفاده لزوماً اقتصادی نیست.
طراحی این پلتفرم باید بهصورت راهکار کامل انجام شود. استفاده از خدمات پردازشی و زیرساخت محاسباتی آکو میتواند ارزیابی Workload، انتخاب کانفیگ، محاسبه ظرفیت و برنامهریزی استقرار را ساختارمندتر کند.
PowerEdge XE9680L برای سازمانی مناسب است که به یک Node هشتگانه NVIDIA HGX در شاسی 4U، ارتباط NVLink و Direct Liquid Cooling نیاز دارد. مزیت اصلی آن بیشترین RAM یا گستردهترین Storage داخلی نیست؛ تمرکز محصول بر تراکم پردازش GPU برای AI و HPC است.
پردازندههای نسل پنجم Intel Xeon Scalable، حداکثر 4 ترابایت DDR5، هشت GPU نوع H200 یا B200، درایوهای NVMe، PCIe Gen5 و ابزارهای مدیریتی PowerEdge، این مدل را به زیرساختی قدرتمند برای پردازشهای شتابیافته تبدیل میکنند.
با این حال، انتخاب نهایی باید پس از بررسی Workload، میزان استفاده از GPU، سازگاری نرمافزار، ظرفیت برق، زیرساخت Liquid Cooling، شبکه و Storage انجام شود. برای پروژههایی که این الزامات را ندارند، R760XA، XE9680 یا سرورهای عمومی PowerEdge میتوانند انتخاب متعادلتری باشند.
کانفیگهای اصلی اعلامشده شامل هشت NVIDIA HGX H200 با حافظه 141 گیگابایت یا هشت NVIDIA HGX B200 با حافظه 180 گیگابایت برای هر GPU هستند. دسترسپذیری هر کانفیگ باید هنگام سفارش بررسی شود.
H100 در گزینههای اصلی فعلی XE9680L درج نشده است. برای استفاده از H100 میتوان مدل PowerEdge XE9680 یا سایر سرورهای سازگار را بررسی کرد.
این سرور دارای 32 اسلات DDR5 RDIMM و حداکثر ظرفیت 4 ترابایت RAM است. مقدار واقعی حافظه و سرعت آن به تعداد DIMM و نحوه پرشدن کانالها وابسته است.
بله. CPUها، GPUها و NVLink Switchها در این مدل با Direct Liquid Cooling خنک میشوند. دیتاسنتر باید زیرساخت مایع، CDU، اتصالات، توان و فرایند نگهداری سازگار داشته باشد.
برای Cloud مبتنی بر GPU، سرویسهای AI و Instanceهای شتابیافته مناسب است؛ اما برای مجازیسازی عمومی و ماشینهای مجازی معمولی، سرورهای عمومی PowerEdge معمولاً انتخاب اقتصادیتر و منعطفتری هستند.
قیمت به نوع GPU، مدل CPU، ظرفیت RAM، درایوهای NVMe، کارتهای شبکه، منبع تغذیه، Licenseهای مدیریتی، خدمات نصب و سطح پشتیبانی وابسته است. به همین دلیل استعلام باید بر اساس BOM و نیاز فنی پروژه انجام شود.
محصولات آکو
HPE
DELL
Broadcom
خدمات آکو
بلاگ
دانلود
HPE
DELL
Broadcom
Vmware
درباره ما
ارتباط با ما
