快科技7月29日消息，在7月26日-7月29日于上海世博展覽館H1-A301舉辦的WAIC（世界人工智能大會）上，華為昇騰384超節(jié)點，即Atlas 900 A3 SuperPoD首次展出，成為備受矚目的“鎮(zhèn)館之寶”，是業(yè)界目前大規(guī)模的超節(jié)點。ywm28資訊網(wǎng)——每日最新資訊28at.com

昇騰384超節(jié)點打破了以CPU為中心的馮諾依曼架構(gòu)，創(chuàng)新提出了對等計算架構(gòu)，還將總線從服務(wù)器內(nèi)部擴展到整機柜、甚至跨機柜，極大地改變了數(shù)據(jù)傳輸和處理的方式。ywm28資訊網(wǎng)——每日最新資訊28at.com

傳統(tǒng)由服務(wù)器、存儲、網(wǎng)絡(luò)等設(shè)備堆疊而成的集群，在大規(guī)模訓(xùn)練時存在資源利用率低、故障頻發(fā)的問題，嚴(yán)重阻礙AI發(fā)展。ywm28資訊網(wǎng)——每日最新資訊28at.com

ywm28資訊網(wǎng)——每日最新資訊28at.com

而昇騰超節(jié)點通過高速總線連接多顆NPU，突破了互聯(lián)瓶頸，讓超節(jié)點像一臺計算機一樣協(xié)同工作。ywm28資訊網(wǎng)——每日最新資訊28at.com

通信帶寬飛躍：跨節(jié)點通信帶寬提升15倍，使得數(shù)據(jù)傳輸速度大幅加快。ywm28資訊網(wǎng)——每日最新資訊28at.com

通信時延驟減：通信時延從2μs降至0.2μs，下降了10倍，減少了數(shù)據(jù)處理等待時間。ywm28資訊網(wǎng)——每日最新資訊28at.com

超強互聯(lián)能力：大可實現(xiàn)384顆NPU點到點超大帶寬互聯(lián)，并且是業(yè)界唯一支持DeepSeek V/R1在一個超節(jié)點域內(nèi)即可完成所有專家并行（EP）方案的產(chǎn)品，也是MoE模型的佳訓(xùn)練/推理方案，極大提高了模型訓(xùn)練和推理的效率。ywm28資訊網(wǎng)——每日最新資訊28at.com

ywm28資訊網(wǎng)——每日最新資訊28at.com

昇騰384超節(jié)點擁有三大優(yōu)勢：ywm28資訊網(wǎng)——每日最新資訊28at.com

超大帶寬：超節(jié)點內(nèi)任意兩個AI處理器之間通信帶寬，相較于傳統(tǒng)架構(gòu)提升15倍，超節(jié)點內(nèi)單跳通信時延降低10倍，數(shù)據(jù)交互更流暢。ywm28資訊網(wǎng)——每日最新資訊28at.com

超低時延：昇騰超節(jié)點支持全局內(nèi)存統(tǒng)一編址，具備更高效的內(nèi)存語義通信能力，通過更低時延指令級內(nèi)存語義通信，可滿足大模型訓(xùn)練/推理中的小包通信需求，提升專家網(wǎng)絡(luò)小包數(shù)據(jù)傳輸及離散隨機訪存通信效率。而且昇騰384超節(jié)點是業(yè)界唯一突破Decode時延15ms的方案，能滿足實時深度思考下的用戶體驗需求。ywm28資訊網(wǎng)——每日最新資訊28at.com

超強性能：經(jīng)過實際測試，在昇騰超節(jié)點集群上，LlaMA3等千億稠密模型訓(xùn)練性能可達(dá)傳統(tǒng)集群的2.5倍以上；在通信占比更高的Qwen、DeepSeek等多模態(tài)、MoE模型上，性能提升更是可以達(dá)到3倍以上。ywm28資訊網(wǎng)——每日最新資訊28at.com

ywm28資訊網(wǎng)——每日最新資訊28at.com