شرکت فناوری اطلاعات ابری آکو
تامین تجهیزات و راهکار های IT
تامین تجهیزات و راهکار های IT
سرور شتابدهندهمحور Dell برای AI و HPC
سرور PowerEdge XE7745 یک پلتفرم رکمونت 4U و دوپردازندهای از خانواده Dell PowerEdge است که برای استقرار متراکم شتابدهندههای PCIe، اجرای AI Inference، Fine-Tuning مدلها، تحلیل داده و محاسبات HPC طراحی شده است. این مدل با دو پردازنده AMD EPYC 9005، پشتیبانی از حداکثر ۸ شتابدهنده Double-Wide پرمصرف یا ۱۶ شتابدهنده Single-Wide کممصرف و ذخیرهسازی NVMe Gen5، گزینهای منعطف برای سازمانهایی است که به توان CPU و GPU در یک شاسی هواخنک نیاز دارند.
XE7745 برای همه پروژههای هوش مصنوعی بهترین گزینه نیست؛ نوع GPU، نیاز به ارتباط مستقیم پرسرعت میان GPUها، توان رک، ظرفیت سرمایش و سازگاری نرمافزاری باید پیش از خرید بهدقت Sizing شوند.
Dell PowerEdge XE7745 یک سرور تخصصی Accelerated Compute است؛ یعنی معماری آن فقط بر افزایش تعداد هستههای CPU متمرکز نیست و بخش مهمی از طراحی شاسی، توان الکتریکی، مسیرهای PCIe و سیستم خنکسازی آن به استقرار شتابدهندههای محاسباتی اختصاص دارد. این مدل در گروه سرورهای Dell AI قرار میگیرد و برای زیرساختهایی ساخته شده است که باید حجم بالایی از پردازش موازی را در سطح سازمانی اجرا کنند.
نقطه تمایز XE7745 استفاده از پردازندههای AMD EPYC 9005 در کنار آرایش منعطف GPUهای PCIe است. سازمان میتواند متناسب با نوع Workload، میان تعداد کمتری کارت Double-Wide پرقدرت و تعداد بیشتری کارت Single-Wide کممصرفتر انتخاب کند. البته عبارت «پشتیبانی از ۱۶ GPU» نباید به معنای امکان نصب ۱۶ شتابدهنده پرمصرف Training تفسیر شود؛ آرایش ۱۶ کارته به کارتهای Single-Wide با سقف توان 75W مربوط است.
Double-Wide به کارتی گفته میشود که فضای دو Slot فیزیکی را اشغال میکند و معمولاً توان و ظرفیت خنکسازی بیشتری نیاز دارد. Single-Wide فقط یک Slot را اشغال میکند، اما در XE7745 پیکربندی ۱۶ کارته آن به کارتهایی با توان حداکثر 75W محدود است.
این سرور را نباید جایگزین مستقیم همه پلتفرمهای SXM یا OAM دانست. XE7745 برای انعطاف در انتخاب کارتهای PCIe و یکپارچگی با رکهای استاندارد مناسب است؛ درحالیکه پلتفرمهایی مانند XE9680 برای سناریوهایی ساخته شدهاند که به مجموعههای GPU با اتصال داخلی اختصاصی و پهنای باند بسیار بالا نیاز دارند.
مشخصات نهایی این سرور به SKU، پردازنده، مدل Accelerator، ظرفیت حافظه، نوع درایو، کارت شبکه، منبع تغذیه و محدودیتهای حرارتی کانفیگ وابسته است. جدول زیر سقفها و قابلیتهای عمومی اعلامشده برای پلتفرم را نشان میدهد و نباید جایگزین بررسی Configuration Matrix شود.
| بخش | مشخصات | نکته تصمیمگیری |
|---|---|---|
| فرمفکتور | Rack Server با ارتفاع 4U | برای هر سرور چهار واحد رک و فضای کافی در عمق رک در نظر گرفته شود. |
| پردازنده | دو پردازنده AMD EPYC 9005 Series با حداکثر ۱۹۲ هسته Zen 5 برای هر CPU | مدل CPU باید بر اساس تعداد هسته، فرکانس، توان، لایسنس نرمافزار و رفتار NUMA انتخاب شود. |
| شتابدهنده Double-Wide | حداکثر ۸ کارت PCIe Gen5 x16 با توان حداکثر 600W برای هر کارت | مدل GPU و امکان استفاده همزمان از تمام Slotها به کانفیگ تأییدشده Dell وابسته است. |
| شتابدهنده Single-Wide | حداکثر ۱۶ کارت PCIe Gen5 x16 با توان حداکثر 75W برای هر کارت | این آرایش برای کارتهای کممصرف است و معادل ۱۶ GPU پرقدرت Double-Wide نیست. |
| حافظه اصلی | ۲۴ اسلات DDR5 RDIMM، ظرفیت حداکثر ۳٫۰۷۲ ترابایت، سرعت حداکثر 6000 MT/s | سرعت عملی حافظه میتواند با توجه به CPU، تعداد DIMMها و نحوه Populate شدن کانالها تغییر کند. |
| ذخیرهسازی جلویی | حداکثر ۸ درایو EDSFF E3.S Gen5 NVMe با ظرفیت خام اعلامشده تا 122.88TB | ظرفیت قابل استفاده پس از RAID، سربار فایلسیستم و رزروهای عملیاتی کمتر خواهد بود. |
| Boot داخلی | BOSS-N1 DC-MHS با دو M.2 NVMe و پشتیبانی از Hardware RAID 1 | جدا کردن Boot Device از فضای Dataset و Scratch، مدیریت و بازیابی سیستم را سادهتر میکند. |
| اسلاتهای توسعه | حداکثر ۸ اسلات PCIe با ۱۶ Lane، علاوه بر مسیرها و اسلاتهای داخلی اختصاصیافته به GPU | تعداد Slot قابل استفاده با نوع Riser و پیکربندی GPU باید کنترل شود. |
| شبکه | پشتیبانی از OCP NIC 3.1 و کارتهای شبکه PCIe سازگار | برای Clusterهای AI یا HPC معمولاً شبکه کمتأخیر و پهنای باند بالا باید جداگانه Sizing شود. |
| مدیریت | iDRAC10، Redfish API، RACADM، Dell System Update و ابزارهای مدیریتی Dell | سطح لایسنس iDRAC و قابلیتهای مدیریتی موردنیاز باید در پیشنهاد فنی مشخص شود. |
| امنیت سختافزاری | TPM 2.0، Secure Boot، Firmware امضاشده، Silicon Root of Trust و Secure Erase | فعالسازی و سیاستگذاری قابلیتهای امنیتی باید با استانداردهای سازمان هماهنگ شود. |
| منبع تغذیه | منابع تغذیه 3200W Titanium برای ورودی 200 تا 240 ولت AC یا 240 ولت DC، با معماری افزونه | تعداد PSU و افزونگی قابل دستیابی به بار نهایی CPU و GPU و طراحی Power Feed وابسته است. |
| خنکسازی | فنهای High-Performance با طراحی Front-to-Rear Airflow | دمای ورودی، فشار استاتیک، Blank Panelها و ظرفیت سرمایش رک باید پیش از نصب بررسی شوند. |
| سیستمعاملهای اعلامشده | Canonical Ubuntu Server LTS، Red Hat Enterprise Linux، SUSE Linux Enterprise Server و VMware ESXi | نسخه دقیق سیستمعامل، Driver، Firmware و GPU Software Stack باید با Compatibility Matrix تطبیق داده شود. |
| ابعاد | ارتفاع 174.3، عرض 482 و عمق حدود 899.56 میلیمتر با Bezel | عمق مفید رک، فضای کابلکشی عقب و شعاع خمش کابلهای شبکه بررسی شود. |
| حداکثر وزن اعلامشده | حدود 68.5 کیلوگرم | نصب و جابهجایی باید با تجهیزات مناسب و مطابق الزامات ایمنی انجام شود. |
سرعت رسمی حافظه XE7745 در مشخصات فعلی Dell حداکثر 6000 MT/s اعلام شده است، نه 6400 MT/s. عدد 6400 MT/s به برخی پلتفرمها یا کانفیگهای دیگر خانواده PowerEdge مربوط میشود و نباید بدون تطبیق با مدل دقیق در صفحه XE7745 درج شود.
XE7745 زمانی بیشترین ارزش را ایجاد میکند که Workload بتواند از ترکیب پردازندههای پرهسته، شتابدهندههای PCIe، حافظه DDR5 و ذخیرهسازی NVMe محلی استفاده کند. انتخاب آن باید بر اساس الگوی واقعی پردازش انجام شود، نه صرفاً تعداد اسلاتهای GPU.
در مدلهای بزرگ که تبادل داده بسیار سنگینی میان هشت GPU دارند، فقط تعداد کارتها معیار کافی نیست. توپولوژی GPU-to-GPU، وجود یا نبود NVLink یا NVSwitch، ظرفیت حافظه هر GPU، Collective Communication و پهنای باند شبکه Cluster میتوانند بیش از تعداد اسلاتها بر زمان Training اثر بگذارند.
XE7745 و XE7740 از نظر فرمفکتور و انعطافپذیری کارتهای PCIe به یکدیگر نزدیکاند، اما پلتفرم CPU آنها متفاوت است. XE9680 در رده دیگری قرار میگیرد و برای مجموعههای هشتشتابدهندهای با اتصال داخلی اختصاصی و توان بالاتر طراحی شده است.
| معیار | PowerEdge XE7745 | PowerEdge XE7740 | PowerEdge XE9680 |
|---|---|---|---|
| پلتفرم CPU | دو AMD EPYC 9005، حداکثر ۱۹۲ هسته برای هر CPU | دو Intel Xeon 6، حداکثر ۸۶ هسته برای هر CPU در مشخصات فعلی | دو Intel Xeon Scalable نسل چهارم یا پنجم، بسته به کانفیگ |
| معماری شتابدهنده | GPU یا Accelerator مبتنی بر PCIe | GPU یا Accelerator مبتنی بر PCIe | مجموعههای NVIDIA HGX SXM یا شتابدهندههای OAM در کانفیگهای پشتیبانیشده |
| حداکثر آرایش عمومی | ۸ Double-Wide تا 600W یا ۱۶ Single-Wide تا 75W | ۸ Double-Wide تا 600W و در برخی مشخصات منطقهای ۱۶ Single-Wide تا 75W | ۸ شتابدهنده پرقدرت با Fabric داخلی اختصاصی |
| فرمفکتور | 4U | 4U | 6U |
| روش خنکسازی اصلی | هواخنک | هواخنک | هواخنک با طراحی بسیار متراکم و الزامات توان و سرمایش سنگینتر |
| مزیت اصلی | هستههای CPU بیشتر و انعطاف در GPUهای PCIe | پلتفرم Intel Xeon 6 و انعطاف در GPUهای PCIe | ارتباط پرسرعت میان مجموعه هشت GPU برای Training متراکم |
| سناریوی مناسبتر | Inference، Fine-Tuning، HPC و Workloadهای CPU/GPU متعادل | همان کلاس Workload با نیاز یا ترجیح اکوسیستم Intel | Training مدلهای بزرگ و پردازشهایی با وابستگی شدید به ارتباط GPU-to-GPU |
XE7745 زمانی انتخاب منطقیتری است که پردازنده AMD EPYC، تعداد بالای هسته، GPUهای PCIe و شاسی 4U در اولویت باشند. XE7740 برای سازمانی مناسبتر است که پلتفرم Intel Xeon 6 را ترجیح میدهد. برای Training بسیار متراکم با نیاز جدی به Fabric داخلی میان GPUها، مدلهایی مانند XE9680 باید بررسی شوند.
خرید PowerEdge XE7745 برای سازمانی منطقی است که Workload آن بهصورت مستند به توان بالای CPU، چند شتابدهنده PCIe و I/O سریع نیاز داشته باشد. این سرور بیشتر برای پروژههای زیرساختی برنامهریزیشده مناسب است تا خرید عمومی یک Rack Server.
بیشترین تعداد هسته همیشه اقتصادیترین انتخاب نیست. برخی نرمافزارهای تجاری بر اساس تعداد Core یا Socket لایسنس میشوند و افزایش هسته میتواند هزینه نرمافزار را بالا ببرد. در Workloadهای حساس به فرکانس نیز ممکن است پردازندهای با هسته کمتر و فرکانس بالاتر نتیجه بهتری ارائه دهد.
مدل دقیق GPU باید از نظر ابعاد، توان، Firmware، Driver، کابلکشی، سیستمعامل، Hypervisor و نرمافزار AI بررسی شود. برای آشنایی با معیارهای حافظه GPU، توان، خنکسازی و نوع Workload میتوانید راهنمای انتخاب GPU Server را مطالعه کنید.
کانفیگ دارای چند GPU پرمصرف میتواند بار الکتریکی قابل توجهی ایجاد کند. ظرفیت PDU، تعداد Feedها، نوع Connector، ظرفیت UPS، جریان هر مدار و سطح Redundancy باید بر مبنای توان واقعی کانفیگ محاسبه شوند. نصب تعداد کامل PSU بهتنهایی تضمین نمیکند که در هر حالت خرابی، تمام بار بدون محدودیت ادامه پیدا کند.
هواخنک بودن به معنای کممصرف یا کمحرارت بودن نیست. بررسی Hot Aisle و Cold Aisle، فشار استاتیک، دمای هوای ورودی، Blank Panel، تراکم تجهیزات مجاور و ظرفیت CRAC یا In-Row Cooling برای جلوگیری از Thermal Throttling ضروری است.
در Clusterهای چندسروری، شبکه میتواند به گلوگاه اصلی تبدیل شود. سرعت Port، Latency، Oversubscription، نوع Fabric، RDMA، توپولوژی Spine-Leaf و تعداد NICها باید با الگوی تبادل داده میان Nodeها هماهنگ شوند.
درایوهای NVMe داخلی برای Boot، Cache، Scratch و Datasetهای فعال مفید هستند، اما لزوماً جایگزین Storage اشتراکی سازمانی نمیشوند. نرخ خواندن Dataset، اندازه Checkpointها، ظرفیت قابل استفاده، Data Protection و زمان بازیابی باید در معماری نهایی لحاظ شوند.
BIOS، iDRAC، Firmware کارت شبکه، Firmware GPU، Driver و نسخه CUDA یا Software Stack باید بهصورت یک مجموعه سازگار مدیریت شوند. ارتقای مستقل یکی از اجزا بدون بررسی Matrix میتواند پایداری Cluster یا عملکرد Accelerator را تحت تأثیر قرار دهد.
اعلام تعداد CPU، RAM و GPU برای تهیه کانفیگ کافی نیست. بدون مشخص کردن مدل دقیق GPU، توان هر کارت، اندازه Dataset، نوع مدل، Framework، سیستمعامل، شبکه، Storage و رشد سهساله، امکان بیشبرآورد یا کمبرآورد منابع وجود دارد.
برای تجهیزات متراکم AI، قرارداد پشتیبانی، موجودی قطعات، زمان تأمین Accelerator و سطح خدمات پس از فروش نیز بخشی از تصمیم فنی است. بررسی خدمات گارانتی تجهیزات آکو میتواند در برنامهریزی نگهداری و کاهش ریسک توقف سرویس مؤثر باشد.
Dell PowerEdge XE7745 یک سرور 4U شتابدهندهمحور برای سازمانهایی است که به ترکیبی از پردازندههای پرهسته AMD EPYC 9005، چند GPU یا AI Accelerator مبتنی بر PCIe، حافظه DDR5 و ذخیرهسازی NVMe Gen5 نیاز دارند. پشتیبانی از حداکثر ۸ کارت Double-Wide با توان 600W، آن را برای AI Inference، Fine-Tuning، تحلیل داده و بسیاری از Workloadهای HPC به گزینهای جدی تبدیل میکند.
ارزش واقعی XE7745 به کانفیگ صحیح آن وابسته است. انتخاب GPU نامناسب، کمبود توان و سرمایش، شبکه ضعیف، Storage کند یا ناسازگاری Driver و Firmware میتواند بخش قابل توجهی از ظرفیت سختافزار را بلااستفاده بگذارد. به همین دلیل خرید این سرور باید پس از Workload Assessment، Sizing و بررسی دقیق زیرساخت دیتاسنتر انجام شود.
این سرور برای AI Inference، Fine-Tuning مدلها، تحلیل داده، شبیهسازی علمی، محاسبات HPC و سایر Workloadهایی طراحی شده است که از چند Accelerator مبتنی بر PCIe در کنار CPUهای پرهسته استفاده میکنند.
این مدل حداکثر از ۸ کارت Double-Wide PCIe Gen5 x16 با توان حداکثر 600W یا ۱۶ کارت Single-Wide با توان حداکثر 75W پشتیبانی میکند. تعداد و مدل دقیق کارتها باید با کانفیگهای تأییدشده Dell تطبیق داده شود.
تفاوت اصلی در پلتفرم پردازنده است. XE7745 از دو AMD EPYC 9005 با حداکثر ۱۹۲ هسته برای هر CPU استفاده میکند، درحالیکه XE7740 بر پایه Intel Xeon 6 ساخته شده است. هر دو برای شتابدهندههای PCIe و خنکسازی هوایی طراحی شدهاند.
برای بخشی از پروژههای Training و Fine-Tuning مناسب است؛ اما در مدلهایی که به تبادل بسیار پرسرعت میان هشت GPU نیاز دارند، باید توپولوژی ارتباطی و نبود یا وجود Fabricهایی مانند NVLink و NVSwitch بررسی شود. در چنین سناریوهایی ممکن است XE9680 یا پلتفرمهای مشابه مناسبتر باشند.
این سرور دارای ۲۴ اسلات DDR5 RDIMM است و در مشخصات رسمی تا ۳٫۰۷۲ ترابایت حافظه با سرعت حداکثر 6000 MT/s را پشتیبانی میکند. ظرفیت و سرعت نهایی به مدل CPU و نحوه نصب DIMMها وابسته است.
مدل و تعداد CPU، ظرفیت RAM، مدل دقیق GPU، تعداد Accelerator، ظرفیت NVMe، نوع شبکه، سطح افزونگی PSU، سیستمعامل، لایسنس مدیریتی، نوع پشتیبانی و شرایط برق و سرمایش دیتاسنتر باید مشخص شوند. قیمت این محصول کانفیگمحور است و بدون این اطلاعات برآورد دقیقی ارائه نمیشود.
محصولات آکو
HPE
DELL
Broadcom
خدمات آکو
بلاگ
دانلود
HPE
DELL
Broadcom
Vmware
درباره ما
ارتباط با ما
