硬件快讯
DeepSeek传闻V5模型拟用16万颗昇腾950DT预训练
DeepSeek下一代旗舰模型V5计划采用约16万颗华为昇腾950DT芯片完成原生预训练。
支撑该训练计划的硬件架构为Atlas 950 SuperPoD,其采用自研灵衢2.0协议构建全光Mesh网络,实现单柜64卡及最大8192卡无收敛全互联。
在硬件配套方面,昇腾950超节点单卡需配套18至26个高速光口,配比接近1:26。
面向未来,下一代昇腾960超节点已推出采用5500个NPO光引擎替代4.8万颗800G光模块的版本,整体功耗降低超550KW。
来源:iccsz
DeepSeek下一代旗舰模型V5计划采用约16万颗华为昇腾950DT芯片完成原生预训练。这一安排标志着昇腾在DeepSeek技术栈中的角色发生转变,此前昇腾主要承担推理与微调适配工作,而V3及V4版本的基座模型均在英伟达CUDA生态中完成训练。[1]
支撑该训练计划的硬件架构为Atlas 950 SuperPoD,其采用自研灵衢2.0协议构建全光Mesh网络,实现单柜64卡及最大8192卡无收敛全互联。该架构提供16.3PB/s总互联带宽,并将跨柜往返时延压缩至3微秒,由32台OCS光交换柜组成柜间全光Mesh结构。[1]
在硬件配套方面,昇腾950超节点单卡需配套18至26个高速光口,配比接近1:26。单套8192卡满配集群约需21万只高速光模块,光互连硬件占集群总成本约20%,单集群光模块采购规模达数十亿元。当前国内AI智算中心光模块需求集中在400G和800G规格,比例约为80%:20%。[1]
面向未来,下一代昇腾960超节点已推出采用5500个NPO光引擎替代4.8万颗800G光模块的版本,整体功耗降低超550KW。NPO技术预计将在2027年下半年获得小规模部署,规模约为200至300万只。[1]