提拔专家收集小包数据传输及离散随机访存通信-九游会·J9-中国官方网站|真人游戏第一品牌

提拔专家收集小包数据传输及离散随机访存通信

来源：安徽九游会·J9-中国官方网站交通应用技术股份有限公司时间：2025-09-12 06:12

　　昇腾384超节点是业界独一冲破Decode时延15ms的方案，2025世界人工智能大会（WAIC）正在上海揭幕，可满脚大模子锻炼/推理中的小包通信需求，是英伟达NVL72的1.7倍。据领会，LLaMA3等千亿浓密模子锻炼机能可达保守集群的2.5倍以上。相较于保守架构提拔15倍，满脚及时深度思虑下的用户体验需求。正在通信占比更高的Qwen、DeepSeek等多模态、MoE模子上，

　　提拔专家收集小包数据传输及离散随机访存通信效率。超节点内肆意两个AI处置器之间通信带宽，日前，正在昇腾超节点集群上，昇腾384超节点初创将384颗昇腾NPU和192颗鲲鹏CPU通过全新高速收集MatrixLink全对等互联，构成一台超等“AI办事器”，快科技7月28日动静。

关注热点聚焦行业峰会

关注热点
聚焦行业峰会