شرکت فناوری اطلاعات ابری آکو
تامین تجهیزات و راهکار های IT
تامین تجهیزات و راهکار های IT
سرور PowerEdge XE7740 یک پلتفرم شتابیافته 4U و دوسوکتی از خانواده Dell PowerEdge است که برای اجرای بارهای کاری AI، پردازش داده، HPC، inference و fine-tuning مدلها طراحی شده است. برخورداری از اتصال PCIe Gen5 و پشتیبانی از حداکثر ۸ شتابدهنده دواسلات یا ۱۶ شتابدهنده تکاسلات، این سرور را برای سازمانهایی مناسب میکند که به چگالی بالای GPU در یک معماری Air-Cooled نیاز دارند. انتخاب کانفیگ مناسب آن به نوع GPU، توان مصرفی، شبکه خوشه، ظرفیت حافظه و زیرساخت برق و سرمایش دیتاسنتر وابسته است.
PowerEdge XE7740 یک سرور معمولی برای میزبانی عمومی اپلیکیشنها نیست؛ این مدل در گروه سرورهای Dell AI قرار میگیرد و معماری آن برای نصب تعداد زیادی شتابدهنده PCIe، تأمین توان بالا و دفع حرارت حاصل از GPUها بهینه شده است.
مهمترین تفاوت XE7740 با بسیاری از سرورهای عمومی دوسوکتی، ظرفیت بالای شتابدهندههای PCIe است. سازمان میتواند بر اساس نوع Workload، کانفیگی با حداکثر ۸ کارت دواسلات پرمصرف یا حداکثر ۱۶ کارت تکاسلات کممصرف انتخاب کند. این انعطاف باعث میشود یک پلتفرم واحد برای inference، پردازش ویدئو، تحلیل داده، مدلهای Generative AI، شبیهسازی و برخی بارهای HPC قابل استفاده باشد.
DW-FHFL مخفف Double-Width, Full-Height, Full-Length و به کارتهای دواسلات با ابعاد کامل اشاره دارد. SW-FHFL نیز مخفف Single-Width, Full-Height, Full-Length است و کارتهای تکاسلات را توصیف میکند. تعداد شتابدهنده قابل نصب به ابعاد، توان، نوع کابلکشی و فهرست قطعات تأییدشده Dell بستگی دارد.
شاسی 4U فضای لازم برای GPUهای Full-Length، ماژولهای فن پرفشار، مسیرهای هوای کنترلشده و مجموعه منابع تغذیه را فراهم میکند. در مقایسه با بسیاری از سرورهای رکمونت دیتاسنتری، تمرکز XE7740 بیشتر بر ظرفیت شتابدهنده و توان محاسباتی موازی است تا حداکثر تعداد درایوهای داخلی.
PowerEdge XE7740 برای خنککاری هوایی طراحی شده است. این موضوع در دیتاسنترهایی که زیرساخت Direct Liquid Cooling یا CDU ندارند، استقرار را نسبت به سرورهای Liquid-Cooled سادهتر میکند. بااینحال Air-Cooled بودن به معنای مصرف برق یا تولید حرارت پایین نیست؛ کانفیگهای مجهز به چند GPU پرمصرف همچنان به ظرفیت سرمایشی، فشار هوای مناسب و طراحی دقیق Hot Aisle و Cold Aisle نیاز دارند.
ارزش اصلی این سرور در ترکیب معماری دوسوکتی Intel، ظرفیت زیاد شتابدهندههای PCIe و خنککاری هوایی است. بنابراین XE7740 برای سازمانی جذاب است که به GPU Density بالا نیاز دارد، اما نمیخواهد یا نمیتواند زیرساخت Liquid Cooling پیادهسازی کند.
مشخصات نهایی سرور به CPU SKU، نوع GPU، تعداد DIMMها، ظرفیت منابع تغذیه، Firmware، سیستمعامل و قطعات تأییدشده در کانفیگ سفارش بستگی دارد. جدول زیر سقف قابلیتهای اعلامشده برای این پلتفرم را نشان میدهد.
| بخش | مشخصات | نکته تصمیمگیری |
|---|---|---|
| فرمفاکتور | سرور Rack با ارتفاع 4U | برای هر سرور چهار واحد رک و فضای کافی برای کابلکشی و گردش هوا در نظر گرفته شود. |
| پردازنده | دو پردازنده Intel Xeon 6، حداکثر ۸۶ هسته برای هر CPU | انتخاب CPU باید بر اساس تعداد Laneهای PCIe، فرکانس، توان حرارتی و رفتار Workload انجام شود. |
| حافظه | ۳۲ اسلات DDR5 RDIMM، حداکثر ۴ ترابایت | سرعت نهایی حافظه به CPU SKU و نحوه DIMM Population وابسته است. |
| سرعت حافظه | تا 6400 MT/s در حالت 1DPC و تا 5200 MT/s در حالت 2DPC | پر کردن دو DIMM در هر Channel میتواند سرعت مؤثر حافظه را کاهش دهد. |
| GPU دواسلات | حداکثر ۸ کارت PCIe Gen5 x16 از نوع DW-FHFL با توان تا ۶۰۰ وات | توان کارت، تعداد PSUها، Fan Configuration و Thermal Matrix باید همزمان بررسی شوند. |
| GPU تکاسلات | حداکثر ۱۶ کارت PCIe Gen5 x16 از نوع SW-FHFL با توان تا ۷۵ وات | این حالت برای شتابدهندههای کممصرف و افزایش تعداد Endpointها مناسبتر است. |
| اسلاتهای عمومی PCIe | حداکثر ۸ اسلات PCIe Gen5 x16 | چیدمان اسلاتها با نوع GPU و Riser انتخابشده تغییر میکند. |
| ذخیرهسازی جلویی | حداکثر ۸ درایو EDSFF E3.S Gen5 NVMe، حداکثر ظرفیت خام ۱۲۲٫۸۸ ترابایت | ظرفیت قابل استفاده به RAID یا لایه نرمافزاری ذخیرهسازی وابسته است. |
| فضای Boot | BOSS-N1 با دو M.2 NVMe و Hardware RAID 1 | برای جداسازی Boot Volume از فضای داده و Scratch Storage مناسب است. |
| شبکه | پشتیبانی از OCP NIC 3.0 و کارتهای شبکه PCIe Gen5 | برای Clusterهای AI معمولاً شبکه Ethernet یا InfiniBand پرسرعت باید جداگانه Sizing شود. |
| منبع تغذیه | PSUهای 3200W Titanium و پشتیبانی از حداکثر ۸ واحد AC یا DC | تعداد PSU و سطح Redundancy بر اساس GPU Configuration تعیین میشود. |
| مدیریت | iDRAC، iDRAC Direct، Redfish API، RACADM، iSM و IPMI | برخی قابلیتهای مدیریتی و امنیتی به سطح License وابسته هستند. |
| سیستمعاملهای اعلامشده | Ubuntu Server LTS، Red Hat Enterprise Linux، SUSE Linux Enterprise Server و VMware ESXi | Compatibility Matrix مربوط به GPU، Driver، Hypervisor و Firmware باید پیش از سفارش بررسی شود. |
| ابعاد تقریبی | ارتفاع ۱۷۴٫۳، عرض ۴۸۲ و عمق حداکثر حدود ۸۹۹٫۵۶ میلیمتر با Bezel | عمق رک، محل PDU و فضای کابلهای برق و شبکه باید کنترل شود. |
| حداکثر وزن | حدود ۷۱٫۳۵ کیلوگرم | ظرفیت تحمل رک، ریل، کف کاذب و روش جابهجایی باید ارزیابی شود. |
XE7740 از دو پردازنده Intel Xeon 6 پشتیبانی میکند. در معماری دوسوکتی، هر CPU به بخشی از حافظه و Laneهای PCIe نزدیکتر است؛ بنابراین نحوه اتصال GPU، NIC و حافظه به هر Socket میتواند بر Latency و پهنای باند مؤثر باشد. در Workloadهای حساس، CPU Affinity، GPU Affinity، NUMA Pinning و Memory Locality باید در سطح سیستمعامل یا Scheduler تنظیم شوند.
این سرور دارای ۳۲ اسلات RDIMM، معادل ۱۶ اسلات برای هر Socket است. حداکثر سرعت 6400 MT/s معمولاً در حالت یک DIMM در هر Channel قابل دستیابی است؛ درحالیکه استفاده از دو DIMM در هر Channel میتواند سرعت را تا 5200 MT/s کاهش دهد. حداکثر سرعت نهایی به مدل CPU و نحوه پر شدن اسلاتها وابسته است.
فهرست شتابدهندههای تأییدشده میتواند با Firmware و چرخه عرضه محصول بهروزرسانی شود. نمونههای اعلامشده برای این پلتفرم شامل NVIDIA H100 PCIe، NVIDIA H200 PCIe، NVIDIA L40S، NVIDIA L4، NVIDIA RTX Pro 6000 و Intel Gaudi 3 هستند. برای بررسی مدلهای مناسب inference و پردازش سازمانی میتوان خانواده محصولات NVIDIA Data Center GPU را نیز ارزیابی کرد.
وجود اسلات PCIe Gen5 x16 بهتنهایی تضمینکننده حداکثر Performance نیست. توان GPU، ظرفیت VRAM، پهنای باند حافظه GPU، نوع Interconnect، CPU-to-GPU Ratio، شبکه Cluster و Software Stack همگی در کارایی واقعی مؤثرند. برای آشنایی بیشتر با نقش این گذرگاه، مطالعه مقاله تأثیر PCIe Gen5 بر سرورهای نسل جدید مفید است.
حداکثر ۸ درایو EDSFF E3.S Gen5 NVMe برای ذخیرهسازی محلی در نظر گرفته شده است. این درایوها میتوانند برای Cache، Staging، Datasetهای فعال، Checkpointهای مدل و Scratch Space استفاده شوند. برای Boot نیز BOSS-N1 با دو ماژول M.2 NVMe و RAID 1 امکان جداسازی سیستمعامل از فضای داده را فراهم میکند.
مدیریت Out-of-Band از طریق iDRAC و ابزارهای Dell OpenManage انجام میشود. مدیران زیرساخت میتوانند وضعیت سختافزار، دما، فن، PSU، Firmware، Event Log و سلامت قطعات را از راه دور کنترل کنند. Redfish API و RACADM نیز امکان Automation و ادغام با ابزارهای مدیریت مرکزی را فراهم میکنند.
قابلیتهایی مانند Cryptographically Signed Firmware، Silicon Root of Trust، Secure Boot، TPM 2.0، Secure Erase، Chassis Intrusion Detection و System Lockdown به کاهش ریسک تغییرات غیرمجاز و حملات سطح Firmware کمک میکنند. فعال بودن برخی قابلیتها به License و تنظیمات امنیتی سازمان وابسته است.
یکی از مهمترین کاربردهای XE7740 اجرای inference برای مدلهای زبانی، بینایی ماشین، پردازش تصویر، تحلیل ویدئو، تشخیص الگو و سیستمهای توصیهگر است. امکان نصب ۱۶ شتابدهنده تکاسلات میتواند برای سناریوهایی که تعداد زیادی مدل یا Endpoint مستقل دارند، مزیت ایجاد کند.
کانفیگهای مجهز به NVIDIA H100، H200 یا شتابدهندههای همرده میتوانند برای fine-tuning و برخی پروژههای GPU Training استفاده شوند. بااینحال پیش از انتخاب، باید اندازه مدل، ظرفیت VRAM، نوع Parallelism، تعداد GPU، سرعت Storage و پهنای باند شبکه بررسی شود.
در آموزش مدلهای بزرگ و بهشدت Coupled، نوع ارتباط GPU-to-GPU اهمیت زیادی دارد. سرورهای HGX دارای Fabric یکپارچه NVLink ممکن است برای Trainingهای بسیار سنگین مناسبتر باشند؛ درحالیکه XE7740 انعطاف بیشتری در انتخاب کارتهای استاندارد PCIe ارائه میکند.
XE7740 میتواند در تحلیلهای مهندسی، شبیهسازی، محاسبات علمی، پردازش ژنوم، مدلسازی مالی، Computational Fluid Dynamics و سایر Workloadهای موازی استفاده شود. تناسب این سرور با HPC به GPU مورد استفاده، نوع Solver، شبکه بین Nodeها و میزان وابستگی پردازشها به ارتباط کمتأخیر بستگی دارد.
ترکیب CPUهای دوسوکتی، حافظه DDR5 و شتابدهندههای متعدد برای Pipelineهای Data Analytics، ETL شتابیافته، پردازش Data Lake، Vector Search و پایگاههای داده GPU-Accelerated قابل استفاده است. در چنین سناریوهایی ظرفیت RAM و پهنای باند Storage باید همراه با تعداد GPU افزایش یابد.
VMware ESXi در فهرست سیستمعاملهای پشتیبانیشده این سرور قرار دارد و امکان استفاده از GPU Passthrough یا راهکارهای مجازیسازی GPU، در صورت پشتیبانی Hardware و Software Stack، وجود دارد. بااینحال XE7740 برای مجازیسازی عمومی بدون نیاز به GPU معمولاً اقتصادیترین انتخاب نیست؛ زیرا بخش مهمی از طراحی و هزینه آن به تأمین توان و خنککاری شتابدهندهها اختصاص دارد.
بر اساس مستندات فعلی Dell، VMware ESXi روی کانفیگ XE7740 مجهز به NVIDIA RTX Pro 6000 پشتیبانی نمیشود. پیش از سفارش باید ترکیب دقیق GPU، Hypervisor، Driver، Firmware و License در Compatibility Matrix بررسی شود.
PowerEdge XE7740 میان سرورهای عمومی GPU-Ready و پلتفرمهای تخصصی HGX قرار میگیرد. این مدل برای سازمانی مناسب است که به تعداد زیادی کارت PCIe استاندارد، خنککاری هوایی و انعطاف در انتخاب شتابدهنده نیاز دارد.
| مدل | معماری پردازنده | نوع شتابدهنده | خنککاری | سناریوی مناسبتر |
|---|---|---|---|---|
| PowerEdge XE7740 | دو Intel Xeon 6 | GPU و شتابدهندههای استاندارد PCIe؛ تا ۸ کارت دواسلات یا ۱۶ کارت تکاسلات | Air-Cooled | Inference، fine-tuning، پردازش داده و سازمانهای متمایل به معماری Intel |
| PowerEdge XE7745 | دو AMD EPYC 9005 با تمرکز بر Core Density بالا | معماری شتابیافته PCIe با انعطاف مشابه برای Workloadهای AI | Air-Cooled | بارهای CPU-Intensive، AI و HPC در سازمانهای متمایل به AMD EPYC |
| PowerEdge XE9680L | معماری دوسوکتی | پلتفرم HGX با ۸ GPU و ارتباط یکپارچه NVLink | Direct Liquid Cooling | Training مدلهای بزرگ و بارهای بسیار سنگین AI با ارتباط GPU-to-GPU فشرده |
GPU انتخابشده روی تعداد اسلاتهای آزاد، Riser، کابلکشی، تعداد PSU، Fan Configuration، توان ورودی و حتی سیستمعامل قابل استفاده اثر میگذارد. بنابراین کانفیگ سرور نباید با انتخاب مستقل CPU، RAM و GPU آغاز شود؛ بلکه کل Bill of Materials باید بهصورت یکپارچه طراحی شود.
کانفیگ دارای ۸ شتابدهنده ۶۰۰ واتی فقط در بخش GPU میتواند به توان بسیار بالایی نیاز داشته باشد. توان CPUها، حافظه، Storage، NICها، فنها و حاشیه Redundancy نیز باید به محاسبه افزوده شود. ظرفیت PDU، مدار برق، کابلها، اتصال AC یا DC، هوای ورودی و دفع حرارت رک باید پیش از استقرار بررسی شوند.
عمق نزدیک به ۹۰۰ میلیمتر و وزن حداکثری بیش از ۷۱ کیلوگرم، نصب XE7740 را به موضوعی فراتر از اشغال چهار واحد رک تبدیل میکند. رک باید با Rail Kit سازگار باشد و فضای کافی برای PSU، کابلهای شبکه، شعاع خم کابلها و خروج هوای گرم داشته باشد.
در پروژههای چندسروری، Performance فقط به GPU داخل هر Node وابسته نیست. شبکه Ethernet یا InfiniBand، سرعت NIC، تعداد Port، Topology سوئیچ، Oversubscription، RDMA و طراحی Storage Fabric میتوانند سرعت Training یا پردازش توزیعشده را محدود کنند.
عدد ۱۲۲٫۸۸ ترابایت نشاندهنده حداکثر ظرفیت خام درایوهای داخلی است. ظرفیت قابل استفاده پس از RAID، Formatting، Reserved Space و سیاست حفاظت داده کمتر خواهد بود. برای Datasetهای بزرگ نیز معمولاً به Storage اشتراکی، Parallel File System، Object Storage یا SAN پرسرعت نیاز است.
Snapshot، Replication، Backup و Disaster Recovery توسط Storage، Hypervisor، سیستمعامل یا نرمافزارهای حفاظت داده ارائه میشوند و نباید بهعنوان قابلیت ذاتی PowerEdge XE7740 معرفی شوند. معماری حفاظت داده باید جداگانه و متناسب با حجم Dataset، RPO، RTO و نرخ تغییر داده طراحی شود.
نصب GPU، NIC یا سایر کارتهای PCIe خارج از فهرست تأییدشده میتواند باعث ناسازگاری حرارتی، توان ناکافی، خطای Firmware یا اختلال در پشتیبانی شود. برای نگهداری بلندمدت سرور، استفاده از خدمات گارانتی و پشتیبانی تجهیزات دیتاسنتری و تعریف فرآیند کنترل Firmware توصیه میشود.
دو سرور XE7740 میتوانند از نظر تعداد GPU، نوع CPU، ظرفیت RAM، شبکه، PSU، Storage و License کاملاً متفاوت باشند. استعلام قیمت باید بر اساس کانفیگ دقیق، نوع Workload، ظرفیت توسعه و الزامات دیتاسنتر انجام شود؛ نه فقط بر اساس نام PowerEdge XE7740.
PowerEdge XE7740 یک سرور 4U شتابیافته برای سازمانهایی است که به چندین GPU یا Accelerator استاندارد PCIe در یک پلتفرم Air-Cooled نیاز دارند. دو پردازنده Intel Xeon 6، حداکثر ۴ ترابایت حافظه DDR5، پشتیبانی از ۸ GPU دواسلات یا ۱۶ شتابدهنده تکاسلات و Storage محلی E3.S NVMe، این مدل را برای inference، fine-tuning، پردازش داده، HPC و برخی پروژههای Training مناسب میکند.
در مقابل، این سرور برای تمام Workloadها گزینه پیشفرض نیست. هزینه GPU، برق، سرمایش، شبکه و Software Stack بخش بزرگی از TCO را تشکیل میدهد. سازمانهایی که صرفاً به یک سرور مجازیسازی عمومی یا دیتابیس بدون شتابدهنده نیاز دارند، ممکن است با یک PowerEdge Rack Server متداول به نسبت قیمت به کارایی بهتری برسند.
این سرور از حداکثر ۸ شتابدهنده PCIe Gen5 x16 دواسلات از نوع DW-FHFL با توان تا ۶۰۰ وات یا حداکثر ۱۶ شتابدهنده تکاسلات SW-FHFL با توان تا ۷۵ وات پشتیبانی میکند. تعداد نهایی به مدل GPU و کانفیگ تأییدشده Dell بستگی دارد.
XE7740 دارای ۳۲ اسلات DDR5 RDIMM است و از حداکثر ۴ ترابایت حافظه پشتیبانی میکند. حداکثر سرعت حافظه به CPU SKU و نحوه پر شدن DIMMها وابسته است.
برای fine-tuning و برخی پروژههای Training قابل استفاده است، اما در مدلهای بسیار بزرگ که به ارتباط فشرده GPU-to-GPU نیاز دارند، پلتفرمهای HGX مجهز به NVLink و NVSwitch میتوانند گزینه مناسبتری باشند.
VMware ESXi در فهرست سیستمعاملهای پشتیبانیشده قرار دارد؛ بااینحال سازگاری به GPU و نسخه نرمافزار وابسته است. در مستندات فعلی Dell، ESXi روی کانفیگ مجهز به RTX Pro 6000 پشتیبانی نمیشود.
Hyper-V در فهرست سیستمعاملهای اعلامشده فعلی Dell برای این مدل دیده نمیشود. پیش از هر تصمیم باید Operating System Support Matrix و وضعیت Driverهای GPU بررسی شود و نباید صرفاً بر اساس پشتیبانی عمومی PowerEdge نتیجهگیری کرد.
قیمت این سرور به CPU، مدل و تعداد GPU، ظرفیت RAM، نوع Storage، کارت شبکه، تعداد PSU، License و سطح پشتیبانی وابسته است. به همین دلیل استعلام قیمت باید پس از Sizing فنی و تهیه کانفیگ دقیق انجام شود.
محصولات آکو
HPE
DELL
Broadcom
خدمات آکو
بلاگ
دانلود
HPE
DELL
Broadcom
Vmware
درباره ما
ارتباط با ما
