寶德自強(qiáng)推理服務(wù)器 PR425KI G2
PR425KI G2推理服務(wù)器采用8模組高效推理方式,提供強(qiáng)勁AI 推理能力,在算力、內(nèi)存帶寬和互聯(lián)能力方面具有優(yōu)勢(shì),可廣泛應(yīng)用于生成式大模型推理,例如智能客服、文案生成、知識(shí)沉淀等內(nèi)容生成類(lèi)場(chǎng)景。

通用計(jì)算、異構(gòu)計(jì)算、協(xié)同計(jì)算、邊緣計(jì)算等多元產(chǎn)品布局
寶德PR420KI G3服務(wù)器是基于華為自研鯤鵬920處理器、昇騰910 AI處理器、總線交換芯片和CDR芯片的AI計(jì)算節(jié)點(diǎn),面向互聯(lián)網(wǎng)、運(yùn)營(yíng)商、金融等行業(yè)的大模型推理等重要場(chǎng)景,提供高性能、高可靠、易部署的AI推理服務(wù)器,滿(mǎn)足通用風(fēng)冷機(jī)房部署,以算力/互聯(lián)帶寬/可靠性極致競(jìng)爭(zhēng)力為目標(biāo),結(jié)合工程優(yōu)勢(shì)持續(xù)構(gòu)筑AI風(fēng)冷推理服務(wù)器硬件競(jìng)爭(zhēng)力。
計(jì)算xPU采用昇騰HiAM模組
AI系統(tǒng)采用多種處理器,整機(jī)支持4*鯤鵬920處理器+8*昇騰910 AI模組
整機(jī)為10U機(jī)框,支持標(biāo)準(zhǔn)19英寸機(jī)柜安裝。整機(jī)結(jié)構(gòu)設(shè)計(jì)采用正交盲插架構(gòu),集成 CPU抽屜、NPU抽屜、靈衢總線板、IO框等關(guān)鍵部件,集成密度高、易維護(hù)
8*200GE RoCE v2高速接口
支持CPU和內(nèi)存智能故障診斷和隔離,提升系統(tǒng)可靠性。算網(wǎng)融合,柜內(nèi)支持通用交換機(jī),簡(jiǎn)化機(jī)房部署
| 型號(hào) | PR420KI G3 |
|---|---|
| 形態(tài) | 10U風(fēng)冷AI訓(xùn)推服務(wù)器 |
| CPU處理器 | 支持4個(gè)鯤鵬920處理器,處理器支持≥64核 每個(gè)core集成64KB L1 Cache,≥512KB L2 Cache ,≥64MB L3 Cache。 |
| 內(nèi)存 | 提供64個(gè)DDR5內(nèi)存插槽,每個(gè)CPU基礎(chǔ)板均提供32個(gè)內(nèi)存插槽 支持RDIMM 最大內(nèi)存?zhèn)鬏斔俾蕿?200MT/s 單根內(nèi)存條容量支持64GB |
| 本地存儲(chǔ) | 前置2*2.5英寸SATA+8*2.5英寸NVMe硬盤(pán)位 |
| PCIe接口 | 最多支持5個(gè)PCIe5.0標(biāo)準(zhǔn)接口插槽,2個(gè)PCIe x16和3個(gè)PCIe5.0 x8插槽 |
| HiAM AI模組 | 支持8個(gè)HiAM AI模組,單AI模組支持7路靈衢互聯(lián)1.0+1路RoCE,用于AI處理器之間互連 單NPU AI算力 560 TFlops(FP16),總AI算力4.48 PFlops,單NPU顯存128G HBM |
| L1交換網(wǎng)絡(luò) | 7個(gè)交換芯片用于連接靈衢互聯(lián)1.0網(wǎng)絡(luò),1:1無(wú)收斂 HiAM模組直出CDR芯片用于RoCE網(wǎng)絡(luò),1:1無(wú)收斂 |
| 能耗 | 最大輸入功耗:14.6kW |
| 工作環(huán)境溫度 | 工作溫度:5℃~35℃( 41℉ ~ 95℉) (符合ASHRAE Class A2) 工作海拔高度:≤3050m |
| 結(jié)構(gòu)尺寸 | 442mm(H)×447mm(W)×920mm(D) |