“芯片问题其实没必要不安，用叠加和集群等步骤，推算了局上与最先进水平是相当的。”近期，华为总裁任正非的一次公开发声，加强了社会各界对中国AI发展的信心。 我们都知路，中国已经形成了“百模千态”的大模型产业，有多个大模型走在全球前列。但无论AI产业若何发展，算力都是驱动模型演进的底子动力。随着表部技术关闭步步紧逼，国产算力能否担任大用？是否只能做推理而不能做复杂训练？好多人其实内心没底。 “我们单芯片还是落后美国一代，我们用数学补物理，非摩尔补摩尔，用群推算补单芯片，在了局上也能达到实用情况。”任正非的公开发声，给国内AI产业吃下了一颗“放心丸”。 带着对国产算力发展的关切，观察者网与华为2012尝试室的技术专家的做了一次互换，我们相识到，昇腾算力不仅实现推理机能全球当先，同时系统不变性也维持在高水平，能高效训出世界一流的万亿参数大模型。尤其是CloudMatrix 384超节点技术，以系统补单点，从堆芯片到拼架构，主题指标比肩英伟达，成为中国AI发展的坚实算力底座。 在表部造裁围堵下，芯片问题就像“达摩克里斯之剑”一样，一向悬在中国产业界头上。尤其随着中美AI竞争愈发强烈，美国一方面极力遏造中国先进芯片造作的能力，另一方面又不休收紧对英伟达高端芯片的出口管造，试图让中国AI产业在“算力囚笼”遏制步不前。 但危中也有机。行业的发展趋向是，当Transformer这样的大型神经网络模型横空出世，万亿参数模型起头涌现，对算力和显存的需要呈爆炸式增长，单个GPU甚至单个服务器都难以招架，集群算力成为大势所趋，这也给中国用系统步骤解决算力困境带来契机。 说起“系统论”，老一辈中国人可能并不陌生。钱学森的《论系统工程》，主题思想就是把钻研对象看做一个整体而不是孤立的点，通过整体优化添补单点落后。 华为造裁中得救，正是受到系统工程的启发。技术专家对观察者网暗示，算力基础设施是复杂的系统，华为把各个部门买通了，在内部组织了算力会战，把华为云、模型、底座、芯片、硬件工程、基础软件的研发力量集结在一路，跨部门作战，深度协同。这样的环境和机造，可能产生协同效应和系统工程的整合，实现了“大杂烩”技术的有效利用和协同创新。 基于系统工程，华为构建了巨型算力基础设施CloudMatrix 384超节点，通过全对等高速互联架构，让384张昇腾卡能够像一台推算机一样工作。它的算力总规模达300Pflops，是英伟达旗舰NVL72的1.7倍；网络互联总带宽达269TB/s，迸注伟达NVL72提升107%；内存总带宽达1229TB/s，迸注伟达NVL72提升113%。更关键的是，它还能扩大为蕴含数万卡的Atlas 900 SuperCluster超节点集群，未来能够支持更大规模的模型演进。 “超节点是复杂系统，单卡的技术指标并不代表系统的效力，我们‘系统工程’，要达到的是系统最佳，而不是单点最强。解决这些超复杂系统的问题必要懂理论，如系统论，节造论，信息论，推算数学等；同时，我们通过数学的步骤对推算系统进行建模、仿真，设法子把每一部门都用起来，做到不浪费，各个部门美满共同，高效协同。”华为技术专家暗示。 我们都知路，芯片造作遵循着“摩尔定律”，但前提是获取先进的设备资料。在造裁围堵下，华为通过复杂系统优化，实现了“非摩尔补摩尔”的成效，让单芯片短板不再是造约。 华为技术专家指出，单芯片造程从7纳米到5纳米、3纳米、2纳米，每代机能提升不超过20%，总体能提升50%左右�；�为通过高效的超节点系统，提升了芯片算力利用率。“MoE大模型训练，我们以前MFU（模型算力利用率）是30%，业界也是差不多这个水平，我们最新颁布的数据提升到41%，尝试室是45%多。从30%提升到45%，利用率相当于提升了50%。在硬件什么也没有扭转的情况下，通过系统工程的优化，资源的高效调度，肯定水平添补了芯片工艺的不及。” 随着大模型Scaling Law（尺度定律）的持续演进，整个AI行业产生了巨量算力需要。但是传统的推算集群已经呈显炜颈，无限度的堆卡并不能带来算力的线性提升，反而会产生“内存墙”、“规模墙”和“通讯墙”的问题。这是由于在集群内部，算力卡之间和服务器之间并不是独立工作，而是必要边推算边“沟通”，若是通讯能力跟不上，就会出现算力闲置。 从前8年间，单卡硬件算力增长了40倍，但节点内总线带宽只增长了9倍，跨节点的网络带宽只增长了4倍，这使得集群网络通讯成为当前大模型训练和推理的最大挑战。因而若是不能提升通讯效能，单纯把384张昇腾卡堆起来，推算成效并不愿定就比72张英伟达卡更好，由于卡间和服务器间的通讯开销会抵消算力增长的收益，导致有效算力不升反降。 作为算力产业先行者，英伟达早早意识到这个问题�；迫恃�的做法是，把之前消费级显卡上的NVLink技术移植到推算集群中，相当于给GPU之间搭建一条“专用超宽车路”并且把多颗GPU、CPU、高带宽内存、NVLink/NVSwitch等高度集成，打造了NVL72超节点。 但问题是，NVLink只能用于英伟达自家GPU之间的通讯，节点内的NPU、FPGA等非GPU异构硬件，并不能走这条“超宽车路”，还是要通过效能较低的PCIe和谈走CPU中转，同季节点之间通过以太网/InfiniBand等和谈跨机互联，在巨量推算中也存在带宽堵点。 分歧于这种做法，华为CloudMatrix 384超节点对推算架构进行沉构，彻底突破了传统以CPU为中心的冯诺依曼架构，创新提出了“全对等架构”。它通过3168根光纤和6912个400G光�？楣菇�了高速互联总线，并把总线从服务器内部扩大到整机柜、甚至跨机柜，最终将CPU、NPU、DPU、存储和内存等资源全数互联和池化，这样做就能去除掉了繁多的中转环节，从而实现真正的点对点互联，进而实现更大的算力密度和互联带宽。 “西方是继承发展，任总形象地迸作为‘百纳衣’，就是衣服破了以来不休地打补丁，和谈分歧，互通要转换的，包头套包头，有效载荷就很幼了。我们沉新界说了对等的架构，统一了所有的通讯和谈，互通就不必要转换，提升了有效载荷。”华为技术专家对观察者网说路。 华为构建了这么壮大的昇腾算力，现实利用成效怎么样？尤其是在英伟达高端算力被关闭的情况下，昇腾算力到底能不能给中国AI发展带来底气和信心？这是行业内表真正关切的。 关注产业发展的估计都把稳到了，华为从5月中旬起头密集披露一批技术汇报。从中不难发现，昇腾算力不仅可能支持工业级推理能力，实现Day0迁徙、一键部署，还高效训练出了72B、718B等分歧尺寸的盘古大模型。同时颁布了盘古Ultra MoE模型架构和训练步骤的技术汇报，披露大量技术细节，充分展示了昇腾在超大规模MoE训练机能上的逾越。 相比推理，大模型训练对算力基础设施的要求更高。在单芯片落后一代的情况下，系统工程依然是华为得救的抓手。好比在超大规模MoE模型训练过程中，面对系统拥塞、资源不匹配的问题，华为创造性地对推算、内存、通讯的极致优化调度，并结合昇腾特点的亲和设计和数学算法创新，实现了超等并行，获得“动态指标”的提升。例如万卡昇腾集群上，训练做到了万卡集群41%的算力利用率，98%的集群可用性，95%的线性度，这些都是用户使用中能感触到的真实算力。 率直讲，大规模推算集群最终比拼的就是综合能力，而不是单芯片能力。好比在散热这块，大量芯片堆在一路会产生巨大热量，散不出去的话就会导致系统瘫痪。再好比在光通讯领域，光纤固然有高带宽和高速度的优势，但功耗高且比力脆弱，一个幼问题都可能导致系统断联。 “钻营整体最优，系统工程是每个厂商钻营的指标，就看能不能做到。超节点架构要全互联、不收敛、大带宽、低时延，还要有软件系统把资源治理起来，实现超等并行和高效调度，要让系统安稳工作，必要有大动态的供电，高效的散热蹬撞件工程能力。”华为技术专家说路。 华为几十年在电子信息领域，尤其是硬件工程和基础软件方面有很深的堆集，不仅在光通讯领域领跑行业，并且散热工程也是行业最强，有能力把复杂系统做好。或许10年前，华为就在海表设立钻研所，专门钻研热理论和热工程，86个尝试室中有一个是热学尝试室，不论是液冷还是风冷，已经是业界最当先的水平，这些都成为大规模训练高靠得住的坚实保险。 在云推算中心，华为云为超节点建设了全科专业医生“昇腾云脑”，还打造了恒温“训练基地”，选取液冷冷板散热技术，让冷媒直接接触发热部件，散热效能比传统风冷提升了50%。再加上iCooling智能温控系统，每五分钟动态调整战术，无论表部温度怎么变动，都能让数据中心维持最佳状态。最终，数据中心的能效比PUE做到1.12，比行业均匀节能70%。 “竞争力要上去，最终打铁还需自身硬。我们会充分满足国内客户的必要，不会掉链子。”华为技术专家对观察者网暗示，“CA88理想也是这样，通过实切其实的技术改进，把竞争力提上去，让客户用起来、用好，这是我们致力的方向。最难题的时辰已经从前了，这次披露也让各人感触到了CA88盛开和进取，加强客户对CA88信心。” 在行业中，华为是少有的既做算力基础设施，又做基础大模型的。这样的优势是，模型和算力底座团队能够深度协同，通过模型的训练，发显熹中的挑战和算力问题，牵引算力改进，算力改进又支持模型训推的进取。这样的牵引和支持驱动机造，更容易发现深档次的问题。 华为同时也是盛开的。技术专家对观察者网坦言，昇腾算力支持“百模千态”，蕴含千问、DeepSeek等国内大模型都盛开支持，华为把训练盘古过程中的创新技术和规划毫无保留地披露出来，有有关的代码、技术文档，还派专家到现场去支持客户，支持他们用好昇腾。 “我们大模型toC利用是使能华为手机竞争力的提升为主；toB行业像矿山、钢铁、电力、交通、能源、医疗、金融、港口等是CA88主战场，跟客户没有利益矛盾关系，所以客户也不不安。”华为技术专家坦言，在行业智能化利用方面，华为沉点聚焦关系到国计民生的国度“关基行业”，同时各行各业的需要也城市全力满足，支持好中国在AI时期的算力需要。 不仅对客户维持盛开，华为也对开发者和高校深度盛开底层能力。好比昇腾异构推算架构CANN，对峙深度盛开战术，一路头就支持PyTorch、TensorFlow等业界开源的框架，目前深度贡献开发者已有6000多人，通过在操作系统、算子算法、整图优化及加快库等各个层面持续创新，与互联网、运营商、金融等30多个同伴，开发了260多个高机能算子。 “华为每年在基础钻研上投入很大，基础钻研我们是很盛开的，除了自己钻研，也大力赞助高校，与高校结合钻研和技术合作，‘一杯咖啡吸收宇宙能量，一桶浆糊粘接世界智慧’，不休沉淀组织能力，做到‘根深’。CA88科学家、专家也会深刻业务的会战，把理论和技术利用到业务中，创造性解决现实业务难题，提升产品竞争力，创造贸易价值，实现‘壹��’。在华为，我们把钻研和创新有机地结合起来，实现‘根深壹��’。”华为技术专家暗示。 “盛开会促使我们越发进取。”任正非的这一概想不仅合用于国度，同样合用于企业�Ｄ芄凰�，正是对峙盛开和创新，才使得华为不休获得技术突破，在单点技术被限度的时辰，通过系统工程沉获优势。在日益复杂的国际环境下，昇腾算力平台在训练和推理上的亮眼阐发，不仅给行业提供了英伟达之表的新选择，也为中国AI产业发展吃下了一颗“放心丸”。