HPE ProLiant DL385
Įmonių lygio platforma, surinkta ir išbandyta ES.
HPE ProLiant DL385 Generation 10 CTO serveris su NVIDIA A100 GPU
Šiame serveryje yra du 32 branduolių AMD EPYC 7502 procesoriai (64 branduoliai, 128 gijos) ir 512 GB HPE DDR4 atminties. Jame yra 2 x 480 GB M.2 NVMe diskai ir 2 x 1.6 TB Enterprise SAS SSD diskai. Serveris palaiko 8 padėčių 2.5 colio SFF užpakalinę plokštę ir turi HPE Smart Array S100i RAID valdiklį.
Jame yra 2 x NVIDIA A100 80 GB GPU greitintuvai, todėl jis idealiai tinka dirbtiniam intelektui ir mašininiam mokymuisi. Serveryje yra keturi integruoti GB NIC ir du 10 GB SFP+ prievadai. Atleidimas užtikrinamas naudojant 2x 800 W maitinimo šaltinius, o valdymas supaprastintas naudojant iLO5.
Techninės specifikacijos
| Perdirbėjai | Du 32 branduolių AMD EPYC 7502 (2.5 GHz, Max Turbo 3.4 GHz) |
|---|---|
| Serijos / siūlai | 64 branduoliai / 128 loginiai procesoriai |
| atmintis | 512 GB (8x 64 GB) HPE DDR4 |
| Pirminė saugykla | 2 x 480 GB M.2 NVMe |
| Antrinė saugykla | 2x 1.6 TB Enterprise 2.5" SAS SSD |
| Užpakalinė plokštuma | 1x 8Bay 2.5" SFF (8SFF) |
| RAID | HPE Smart Array S100i SR Gen10 SW RAID + P208i RAID valdiklis |
| Grafikos vienetai (GPU) | 2x NVIDIA A100 80 GB SXM4 PCIe GPU greitintuvas |
| Maitinimo | 2x perteklinis 800W maitinimo šaltinis |
| Tinklo sujungimas | Keturių integruotų GB NIC + dviejų prievadų 10 GB SFP+ |
| Rack bėgiai | Įskaitant |
| valdymas | iLO5 standartas |
| Įrenginio būsena | Refurbished |
| Garantija | 24 mėnesių RTB (grįžimas į bazę) |
| Išbandyta su | Windows Server 2022/2019, VMware ESXi 7.0, Windows Server 2016/2019 HPC, Ubuntu, CentOS 7 64 bitų, Proxmox VE |
Pagrindinės savybės ir privalumai
1. Našumo potencialas naudojant NVIDIA A100 GPU
- NVIDIA A100 GPU: Sukurta sudėtingiausioms skaičiavimo užduotims, tokioms kaip mašininis mokymasis, gilus mokymasis ir didelių duomenų apdorojimas. Su 80 GB atminties kiekvienam greitintuvui jie užtikrina didelį našumą ir lygiagretaus duomenų apdorojimo pajėgumą.
- AI ir ML optimizavimas: Serveris efektyviai tvarko AI ir ML užduotis, kurios yra labai svarbios organizacijoms, dirbančioms su dideliais duomenų rinkiniais, kuriems reikia greitų skaičiavimų.
2. Didelis mastelio keitimas ir lankstumas
- Išplėtimo palaikymas: Palaiko daugybę konfigūracijų, įskaitant atmintį, saugyklą ir kitus komponentų išplėtimus
- Išplėtimas: Paruošta būsimai plėtrai naudojant papildomas vaizdo plokštes ir komponentus
3. Saugumas ir patikimumas
- Integruota apsauga: Su Silicon Root of Trust apsauga nuo aparatinės ir programinės įrangos lygio atakų
- Perteklinės sistemos: Apima perteklinius maitinimo šaltinius ir įmonės lygio komponentus
Idealūs naudojimo atvejai
AI ir mašininis mokymasis (MLaaS)
- Giliųjų neuroninių tinklų mokymas ir išvados
- Natūralios kalbos apdorojimas
- Kompiuterinės vizijos programos
Numatomos mėnesio pajamos: 2,000–10,000 XNUMX USD
Didieji duomenys ir „Analytics“
- Didelių duomenų rinkinių apdorojimas ir analizė
- Duomenų analizė realiuoju laiku
- Verslo žvalgybos programos
Numatomos mėnesio pajamos: 3,000–15,000 XNUMX USD
Virtualizacija ir debesų kompiuterija
- Kelių virtualių mašinų paleidimas
- Debesų infrastruktūros paslaugos
- Konteinerių orkestruotė
Numatomos mėnesio pajamos: 2,000–10,000 XNUMX USD
Įmonių programos
- Didelio našumo duomenų bazės
- Įmonės išteklių planavimas (ERP)
- Ryšių su klientais valdymas (CRM)
Numatomos mėnesio pajamos: 1,000–7,000 XNUMX USD
Konfigūravimo parinktys (CTO – konfigūruoti pagal užsakymą)
Serveris gali būti pritaikytas, kad atitiktų konkrečius organizacinius reikalavimus, įskaitant procesoriaus, atminties, saugyklos ir tinklo komponentų konfigūracijas.
Klausimai, kuriuos pirkėjai mums dažniausiai užduoda prieš užsakydami serverį.
Kiek tai užtruks?
Iš mūsų turimų komponentų pagamintos mašinos pristatomos greitai; viskas, kam reikalinga konkreti GPU karta, priklauso nuo tiekimo. Prieš jums apmokant, pateikiame jums datą, o jei ji bus perkelta, mes jums pranešame, o ne leidžiame jums sužinoti.
Ar konfigūraciją galima pakeisti prieš jį sukūrus?
Beveik visada. Grafikos procesoriai, atmintis, saugykla ir aušinimas parenkami individualiai kiekvienam užsakymui, o nurodyta konfigūracija yra atskaitos taškas, o ne fiksuotas paketas. Jei jums reikia daugiau vaizdo atminties, greitesnės saugyklos ar kitokio aušinimo būdo, praneškite apie tai prieš užsakydami, ir mes pateiksime kainos pasiūlymą.
Ar galiu atsiimti serverį asmeniškai?
Galite. Mūsų sandėlis yra Prahoje, todėl galite atsiimti prekes asmeniškai – dauguma atvykstančiųjų apsilankymo metu gali apžiūrėti įrangą su mūsų inžinieriumi ir užduoti nepatogius klausimus el. paštu. Užsakymus Čekijos Respublikoje taip pat stengiamės pristatyti asmeniškai ir padėti jums atlikti surinkimą vietoje.
Ar galėčiau pasikalbėti su žmogumi, kuris iš tikrųjų supranta darbo krūvį?
Taip. Turime inžinierių, kuris dirba būtent su dirbtinio intelekto sistemomis, o ne bendrą pardavimų skyrių. Jei jūsų klausimas yra apie partijų dydžius, kiekybinį nustatymą, sujungimus ar kur bus jūsų kliūtys, užduokite jį – toks pokalbis paprastai pakeičia konfigūraciją į gerąją pusę.
Kurį modelį galiu paleisti su šia konfigūracija?
Taip. Kiekviena mašina yra surenkama, išbandoma ir lyginami su realiais dirbtinio intelekto darbo krūviais prieš išsiunčiant ją į rinką, o mums lieka jau įdiegta ir veikianti LLM. Ją prijungiate prie tinklo ir pradedate darbą – tereikia nuspręsti, kurį projektą vykdyti pirmiausia.
Kaip patikrinti serverį prieš išsiunčiant?
Mes jį tikriname su realiais dirbtinio intelekto darbo krūviais, o ne su sintetiniais balais: išvadų našumu, ilgalaikiu apkrovos elgesiu ir terminiu poveikiu nuolatinio veikimo metu. Su įrenginiu gaunate etaloninius rezultatus, todėl jums žadėtas našumas yra tas, kurį galite patikrinti jau pirmąją dieną.
Ar serveris yra paruoštas veikti, kai tik atvyks?
Taip. Kiekviena mašina yra surenkama, išbandoma ir lyginami su realiais dirbtinio intelekto darbo krūviais prieš išsiunčiant ją į rinką, o mums lieka jau įdiegta ir veikianti LLM. Ją prijungiate prie tinklo ir pradedate darbą – tereikia nuspręsti, kurį projektą vykdyti pirmiausia.
Siunčiama iš mūsų ES sandėlio. Sunkių prekių siuntimui gali reikėti susitarti dėl gabenimo – susisiekite su mumis dėl siuntimo kainos ir pristatymo laiko. 2 metų ribota garantija su išplėstine RMA pagalba; galima pratęsta garantija.
Ne visai tai, ko jums reikia?
Nurodykite savo darbo krūvį, ir mes sukursime platformą pagal ją – vaizdo plokštes, atmintį, saugyklą ir aušinimą, pritaikytą prie jūsų naudojamų sistemų.