汉尼拔
超节点背后，国产AI芯片正在重写竞争规则_我的网站
一 | 出品 | 虎嗅科技组
作者 | 梁卡尔
编辑 | 苗正卿
头图 | 虎嗅拍摄
这是虎嗅WAIC“追踪Token商业新范式”系列文章第【20】期。
聚光灯下，国产AI芯片的竞争正在变“重”。 这一年，我们努力、奋进
每一个瞬间都闪耀着不凡的光芒
2024回眸
Year-end Review Year-end Review
Year-end Review Year-end Review
杭州市滨江区钱塘山水幼儿园
年度12个关键事件
又是一年岁末时，回望这不平凡的2024
每一刻都显得弥足珍贵
是时候一起细数那些闪闪发光的瞬间了
01
省级指导用书调研
聚智谋新引领发展
2024年10月，杭州市滨江区钱塘山水幼儿园江洲分园承办浙江省教育厅关于幼儿园教师指导用书调研座谈会，天津师范大学教育学部教授梁慧娟、课程教材研究所学前与特殊教育课程研究中心干部王英珲、浙江省教育厅教材管理处三级调研员陈熙熙、浙江省教育厅教研室幼教教研员虞莉莉、杭州市教育局基础教育处二级调研员吴俊，滨江区学前教育服务中心主任李奕以及滨江区浦沿片园长、骨干教师代表参加此次会议，讨论优化教师指导用书情况，引领教师教育教学实践。
02
张波书记
选树为“‘双带头人’党组织书记典型”
第二批省中小学校
“双带头人”党组织书记典型
2024年11月，张波书记荣获第二批省中小学校“双带头人”党组织书记典型的荣誉。
漫步在今年世界人工智能大会（以下简称“WAIC”）的芯片算力展区，会发现往年厂商们引以为傲、精心陈列在橱窗里的单片硅晶圆变少了，取而代之的是看上去“重达数百公斤、塞满核心器件的巨型算力柜”。
三十多年前，她怀揣着对幼儿教育的无限热情，走进了这片充满童真的领域。从一名普通的幼儿教师到如今的书记、园长、高级教师，浙江省春蚕奖获得者，她倡导面向未来的教育理念，她用自己的青春和汗水书写着幼儿教育事业的辉煌篇章。其中拿出硬核实力的是华为，这家公司首次在线下展出的昇腾Atlas 950超节点真机，一个旨在将1024张芯片死死绑定在一起的系统级庞然大物。
二 |
按华为的官方资料，该产品基于灵衢互联协议和超节点架构，支持1024卡规模，拥有256TB全局统一内存编址空间，并提供1 EFLOPS FP8、2 EFLOPS FP4算力。
张波书记专访请查看：叮咚！请查收一则好消息~
03
承办市级双盛会
研修成果获殊荣
2024年，杭州市滨江区钱塘山水幼儿园江洲分园协办杭州市“托幼一体化”背景下幼儿园保育教育质量评估研修月暨幼儿园“课程实施”疑难问题解决研训主会场活动，会上我园代表滨江区交流分享，并荣获杭州市“托幼一体化”背景下幼儿园保育教育质量评估研修月暨幼儿园“课程实施”疑难问题研修成果一等奖。如果记不住这些参数，那么只需要记住一个变化，也就是国产AI算力竞争重心正在发生变化。
从拼单卡参数走向拼系统交付。
三 |
活动链接：杭州市“托幼一体化”背景下幼儿园保育教育质量评估研修月暨幼儿园“课程实施”疑难问题解决研训活动
此外，“相伴而行 共同成长”第五届杭州市“园长教育改革研讨会”在杭州市滨江区钱塘山水幼儿园江洲分园隆重举行。面对先进制程受限、高端HBM断供以及CUDA生态壁垒等一连串硬件短板，中国AI芯片厂商正试图通过超大带宽、低时延互连以及全域调度，将无数个“不完美”的单卡，拼凑成一个“相对完美”的“巨型计算机”。
四 | 研讨会上，多位资深园长分享了他们在幼儿教育实践中的宝贵经验，提出了一系列创新的教育模式和方法。张波园长以《AI数智赋能：“玩+”课程促幼儿个性化高质量发展》为题，不仅分享她带领团队在园本课程上多年来的教育实践，更阐述了基于人工智能赋能教育，如何构建支持幼儿个性化学习的数字化应用场景和具体做法。
五 |
活动链接：“相伴而行 共同成长”第五届杭州市“园长教育改革研讨会”在杭州市滨江区钱塘山水幼儿园隆重举行
04
荣获多项市级荣誉
科研成绩硕果累累
杭州市基础教育教学成果奖
我园2024年度科研成果斐然，荣获杭州市四年一届的基础教育教学成果一等奖，除区教育研究院外，唯一一所学校获一等奖，打破滨江区基础教学成果零突破；同时，荣获杭州市综合课题成果二等奖、杭州市教师教育课题成果三等奖。1篇市级教育教师课题立项，14篇区级课题立项；市级课题成果获奖2项，区级获奖7项；区级中小幼论文、学会论文、家庭及社区教育论文共获奖28篇，杂志期刊论文发表6篇。越来越多厂商开始强调这种新趋势。
系统级突围不是抹平单卡差距，是一种向现实妥协的突围，但它绝不是一条捷径。
05
承办多场区级活动
展示“玩+”课程风采
2024年，我园承办多场区级活动：“白马湖之春”学术节学前教育分会场“玩创科学 启蒙素养”在江洲分园举行；滨江区“基于幼儿发展性评价塑造高质量在园生活”暨科学走亲式联盟分会场实践专题培训活动；滨江区“爸爸在线，成长不缺席”家庭教育指导周在总园、江洲分园举行；滨江区幼儿园“基于经验建构的高质量师幼互动”暨科学走亲式联盟实践研修活动在西浦分园举行。多次展现了“玩+”课程的前瞻理念与优秀成果，同时也体现了山水团队的课程实践智慧。
六 | 当竞争从微观的芯片设计蔓延至宏观的系统工程，面对复杂的网络互连、艰难的模型迁移，以及数据中心那不堪重负的散热与功耗，厂商们眼前的是一笔更难算清的账目。
06
接待全国各地教育
同行20批次
2024年，我园接待来自全国各省市教育局领导、园长、骨干教师等跟岗团队20批次，其中包括马来西亚友人、浙江民进深化“同心·彩虹行动”西部幼儿教师培训贵州安龙、金沙两地园长一行、福建省幼儿园园长、广州省学前教育高质量发展实验区和粤东粤西粤北学前教育研究发展中心、深圳市幼儿园园长、西藏那曲幼儿园园长、河南省濮阳市名家名校长等全国各地园长、骨干教师等专业交流，与全国各地的教育同仁共享教育理念，引领合作共赢。
07
西浦分园搬迁新园
2024
2024年7月初，杭州市滨江区钱塘山水幼儿园西浦分园搬迁至新址滨江区沙虞路1325号。
为什么今年大家都在讲“超节点”？
虎嗅和行业上下游十多位从业者交流发现，超节点热的直接原因，是模型和推理需求都变大了。幼儿园建筑布局充分适应场地要求，采用南北布置的形式围合出内向型的活动空间，使幼儿在活动的同时可以享受安静的内部环境。活动用房布置在场地南北两侧呈条形布局，通过中间连廊连接，在内院中采用构筑物形成的风雨廊道为幼儿室外活动提供了充足的空间。
七 | 钱塘山水幼儿园西浦分园在集团“现在小玩家，未来大创客”办园理念引领下，致力打造一所环境、人文有机结合的玩+乐园，支持孩子的悦玩、慧玩、创玩，培养创客精神，促进孩子全面发展。
从需求端来看，模型变大的速度快过了单卡能力提升的速度。随着模型参数向万亿级迈进，以及上下文窗口拉长至1兆以上，单个芯片的性能早已不堪重负。
更多精彩请点击：携手共创新貌 新园蓄势启航——钱塘山水幼儿园西浦分园乔迁新园啦
08
迎检“杭州市幼儿园规范
办园质量督导评估 ”
2024年11月13日，杭州市滨江区钱塘山水幼儿园西浦分园迎来“杭州市幼儿园规范办园质量督导评估”。评估组专家莅临现场，对园本课程、园所管理、环境创设师幼互动情况等表示高度赞扬。
八 | 园所将继续深耕教育，砥砺前行，在“玩+”课程的引领下为孩子们打造一所爱与智慧的玩家乐园。摩尔线程高级副总裁董龙飞将这种“超节点”技术生动地形容为“让256张GPU像一张卡一样工作”，实现跨卡显存的直接访问。
09
“平安校园”
等级评估三个园区以并列
第一的成绩取得“5A”
2024
杭州市滨江区钱塘山水幼儿园在2024年度滨江区教育系统首届“平安校园”等级评估活动中，浙新分园、 西浦分园、江洲分园共同荣获“5A”最高等级，成绩并列第一，展现了园所安全管理的高质量水平。
10
第二届“山水学术周”
专家引领促提升
为进一步促进教师学习交流，带动教科研成果分享辐射更大化，我园于2024年12月26日-2025年1月7日开展第二届“山水学术周”活动。特邀浙江大学教授刘力、滨江区教育研究院副院长冯祖扬、钱塘区教师教育学院单瑛凡等专家莅临指导，围绕课程成果、智慧赋能教育、科研、托育保教质量、教研成果交流五大专场为老师们带来一场专业盛宴。
更多精彩查看：学而有“术”，做智慧教师——钱塘山水幼儿园第二届“学术周”活动
11
幼儿斩获各级各类奖项
在“玩＋”课程理念的引领下，我园小玩家积极探索、动手动脑，在浙江省第十七届幼儿模型表演大赛中斩获佳绩，共有36名幼儿获奖，集团荣获综合团体三等奖。
图片来源：摩尔线程
华为昇腾950所强调的统一内存编址与全域调度，本质上也是在解决同一个痛点，就是在单卡能力触及天花板时，必须靠“人多力量大”来拼凑出更大的算力空间。
在我园的主题月活动中，小玩家们也凭借出色表现，在各类舞台上展示风采。
在科创月中，荣获各类小创客称号，收获了持续的好奇心、创造力、批判性思维以及团队合作能力。
向左滑动
在悦读月中，化身童谣小明星、故事小达人、演讲小能手，颂中国之美，和诗词致韵。
更具戏剧性的是，智能体让推理算力的消耗方式变了。
在运动月中，参与托班爬爬乐、小班骑小车、中班拍皮球和大班跳绳展示活动，展现出色的运动技巧和无限活力。摩尔线程创始人、董事长兼CEO张建中指出，算力消耗的主体正在从人类转向AI自身，“已经不是我们在用AI，是我们的Agent在用AI”。
九 | 当Agent开始替人调用模型，Token消耗量呈指数级增长。
一位百度云的工作人员在现场向虎嗅印证了这一趋势。
在创艺月中，化身百灵鸟、小画家，用自己的创艺方式表达探秘春天的喜悦。相比训练，目前国产算力在应用端的推理需求正占据绝对主导。
十 |
创艺节
12
首家幼儿园AAT实践基地 公益育人启新程
2024年，我园迎来了与佩蒂股份集团合作的AAT公益项目。佩蒂集团秉持着通过动物疗愈帮助培养孩子爱心、责任感及社交能力的理念，为我园捐赠了十二只可爱的小兔子，给小玩家们带来更加丰富、多元的学习体验。这也解释了为什么万卡集群会和Agent推理放在同一套故事里，因为它们都指向算力需求从单次请求转向高并发、长上下文和多模型协同。
然而，在这场由万卡和超节点堆砌的“繁荣”背后，有多少是真实的市场需求，有多少是展会上的“军备竞赛”？
在业内人士眼中，万卡集群不仅是一个技术指标，更是一张证明自身出货与交付能力的“商业名片”。
十一 | 佩蒂董事长陈振标先生、副总裁游忠明先生授予我园全国首家幼儿园AAT公益项目实践基地称号和AAT公益项目的合作单位。
十二 |
活动链接：萌兔入园，萌育童心——钱塘山水幼儿园&佩蒂股份集团AAT公益项目启动仪式
2024，风雨中奔跑，热爱里扎根。
2025，新岁待启，继续追光。一位昆仑芯展台的工作人员告诉虎嗅，服务头部客户必须具备万卡级集群能力。
愿时光不负，热爱绵长。
但这种狂热下也有人在理性反思，海光信息的工作人员表示，万卡绝不是百卡系统的简单放大，当规模跨过临界点，系统的稳定性、网络拓扑、功耗和散热挑战将面临指数级飙升。
编辑 | 朱烙萱
初审 |任 然 来宜君
终审 | 黄 璇 王云燕 罗怡雯 张 波。一位芯片架构师告诉虎嗅，公司目前支持的是千卡级扩展，但大部分实际商用场景在8卡或16卡规模下已绰绰有余。
十三 |
所以，能拿出万卡方案的厂商很多，但真正能落地的有待检验。一位芯片公司参展商工作人员对虎嗅说，“你要问问看这些卡是不是真的被用起来了”。
系统级突围的第一道墙
然而，要将成百上千张芯片绑成一个“超节点”，厂商们撞上的第一道墙，是严苛的物理学定律。
超节点的前提是通信速度。
十四 | 为了让数百张GPU像“交响乐队一样协同”，摩尔线程和华为等中国厂商不得不各自开发了MTLink和灵衢等互连协议。
华为工作人员告诉虎嗅，灵衢本质上是试图在服务器内部和服务器之间建立更可控的数据通路，并推动CPU、网卡和存储等部件都接入同一生态。
但无论是互连协议，还是更高层的调度架构，都无法绕开底层传输介质的物理边界。铜互连的物理边界很具体，当铜缆距离超过约三米后，信号衰减会明显加剧，所以为了保证信号完整性，线缆需要做得更粗，这又带来了发热、散热、布线和重量的问题。
这种物理极限，正在催生一场“光进铜退”的底层革命。光电芯片厂商曦智科技展示的“光互连”方案，试图用光纤打破“三米魔咒”，将稳定连接距离扩展至数十米，从而让超节点不再被严格限制在单个机柜内，进而有机会向多机柜形态扩展。
十五 |
图片来源：虎嗅拍摄
不过，光互连不是对铜互连的一次性替代，随着互连速率从过去的10G级别提升到100G、200G，铜缆能够稳定互联的距离越来越短，光互连因此从柜间继续向柜内甚至机内推进。
十六 | 展台上一位曦智科技产品经理告诉虎嗅，电缆仍会长期存在，不同技术仍会在各自适合的场景中长期共存。
不仅如此，光互连方案还必须面对商业化是否可行的拷问。一位行业专家坦言，相比于技术尚不成熟、成本高企的光互连，传统的铜互连依然凭借极其低廉的价格和成熟的产业链占据主导地位。对于客户而言，业务真的需要如此大规模的超节点，答案或许是“不一定每个人都需要”。
这个答案直指要害，系统级路线在技术上能连起来只是第一步，商业技术落地才是关键。
超节点不是摆进机房就能跑
互连之外，系统级算力的另一道硬约束在机房。
十七 |
一个完整的超节点设备造价可能高达数亿元，其功耗也往往会飙升至惊人的400千瓦。这种庞然大物看似是一台性能怪兽，但也是一个极其脆弱的系统。董龙飞表示，一旦某张卡、某个模组或交换节点故障，就会影响整套系统利用率。这意味着，超节点必须同时解决卡间互连、链路可靠性、模组解耦、散热和软件协同等问题。
十八 |
一位芯寒智能的工作人员从液冷角度给出了解读，过去业内常以单柜功率10至15千瓦作为是否考虑液冷的参考门槛。
十九 | 但如今，随着高性能AI服务器纷纷上柜，单柜功率轻而易举地突破了这一门槛。在高功率、高热流密度AI算力柜场景下，液冷正在从可选项变成越来越难绕开的工程选项。芯寒智能是一家专注于智算中心相变液冷技术的创新企业。
但这并不意味着所有机房都会立刻转向液冷。上述技术人员表示，对于大量传统的中小型数据中心而言，转向液冷意味着一场伤筋动骨的重构。它们不仅缺乏液冷所需的一次侧水机等基础设施，更面临一个致命的商业代价，就是改造机房往往意味着必须中断现有的服务器负载。对于绝大多数承担着核心业务的单位机房来说，拉闸停机是不可承受之重。
华为这次展示的Atlas 850E风冷超节点，正是试图降低传统机房改造门槛。华为方面称，该产品无需对现有风冷IDC机房做液冷基建改造，标准机柜可直接上架部署，并支持单个风冷超节点扩展至96卡商用部署。
| 试图在物理约束和改造成本之间搭建一条折中的道路。
这笔账最后会落到机房改造和运维上。AI芯片的竞争早已不再局限于硅片本身。它是一场包含电力供应、散热物理、机柜结构乃至旧基建运维在内的系统级重资产升级。
芯片路线分化，买方只看算力账本
虎嗅在WAIC现场观察发现，国产AI芯片并不是一条路线。
|
摩尔线程强调兼顾渲染与仿真的全功能GPU；昆仑芯则认为GPU与AI专用芯片的传统边界正在变得模糊；创始人有着谷歌背景的中昊芯英押注在TPU架构芯片上，奕行智能则展示了RISC-V架构路线，这两家都在试图通过更低的功耗或定制化的架构打开市场缺口。
|
然而，在挑剔的买方市场面前，技术路线标签并不是最终语言。
| 正如一位公有云服务商（百度云）一线人员所讲，客户在实际采购中根本不关心是什么架构，关心的指标只有具体卡型、价格、软件平台适配度，以及进入国产合规体系所需的工作量。
也就是说，软件生态仍是国产算力最难的一关。
更换底层硬件的“迁移”背后往往是一笔财务支出。但对有些芯片厂商来说，路线决定了其具备一定的竞争优势。上述昆仑芯工作人员表示，其从一开始就走兼容主流生态的路线，包括CUDA和PyTorch。原因并不复杂，就是客户原来大量模型和底层代码都跑在CUDA体系上。
但对于大多数不得不更换国产芯片的客户来说，迁移是一项繁重的“苦力活”。正如奕行智能技术与解决方案总监廖显所形容，从CUDA生态迁出，本质上是企业要扮演“搬运工”的角色，把模型和算子重新写到新平台上。
| 中昊芯英解决方案架构师刘辉也提到，开源模型迁移相对容易，但闭源模型仍可能需要额外开发算子。
图片来源：虎嗅拍摄
百度云等头部云厂商正试图通过全栈自研体系，向市场兜售低代码改造成本的乐观愿景，但国产算力迁移不是一个统一答案，而是需要耗费巨大人力、时间和不确定性风险的定制化工程项目。如果客户对算力性价比进行考量，软件生态仍是最关键的判断依据。
国产卡最重要的是可用
WAIC展台上，一些产业热词很容易制造一种全面追赶的气氛。但廖显给出的判断颇为冷静：国产AI芯片当前第一关是“可用”，“你不可用，其他都吹牛”。在他看来，市面上仍有不少芯片停留在Demo阶段，一旦真正扔进客户的真实机房，就会暴露出无数的工程漏洞。
|
当被问及客户是否关注单Token成本时，廖显回答，不能仅着眼于单卡吞吐量的提升，更应综合评估集群部署后的整体TCO（总拥有成本），其中芯片的供应稳定性与稀缺性导致的采购成本同样是不可忽视的变量。
不过，也有芯片行业人士的回答更直接，可用性尚未夯实的阶段，盲目在Token成本上与英伟达贴身肉搏，并不现实，因为“基本上没有办法跟它比”。
这并不是唱衰国产算力，而是说明国产算力目前更现实的任务，不用立刻以绝对成本优势击败英伟达，要先在供应链安全、本地部署、生态适配和特定场景中，建立“不被卡脖子”的防御性替代能力。
在这个过程中，客户更注重眼下的采购经济账，并不为“峰值性能”这样的期货概念买单。
|
昆仑芯工作人员告诉虎嗅，客户通常先明确自己要跑哪些模型，再拿这些模型到芯片平台上测试性能。只有性能过关后，才会进入价格和性价比讨论。对于大客户而言，还要继续考察持续稳定供货能力，“几万张卡、几千张卡，签完合同供不上货也不行”。
图片来源：虎嗅拍摄
这种务实导致了国产算力应用场景分化。
| 董龙飞把训练和推理的商业账拆得很清楚。也就是，训练对性价比容忍度相对更高，如果产品性能低10%，原本训练30天的任务多跑3天仍可接受；但推理不同，如果成本比别人高10%，商业上就很难竞争。
|
因此，对成本和并发更敏感的“推理场景”，正成为国产算力最关键的突破口，也是最残酷的考场。它不是让国产卡立刻在公共云低价Token服务里正面击败英伟达，而是先在场景中建立可用性。上述公有云工作人员也表示，目前市场对国产算力的最大需求，正来自模型部署后的推理服务。
这也最终决定了国产算力的核心客户画像。他们并不是那些资金紧绷、追求极致性能的大模型创业公司，而是合规、安全、本地部署和流程改造需求更刚性的国家队、运营商、金融巨头与交通电力系统。
|
华为昇腾在WAIC展示的行业案例，也说明行业客户衡量国产算力的方式并不是单卡峰值，而是业务指标。无论是在运营商基层流程中缩短的30秒，还是在证券行业客户服务或投资服务场景中降低80%的首次Token响应时延。这些行业客户衡量国产算力的标尺，从来不是被用来市场营销的单卡跑分，而是业务流程能否闭环、系统是否足够稳定，以及在关键时刻有没有人出来为故障兜底。
|
不是所有推理都要进云端
WAIC现场一个容易被亮点遮住的变化是，端侧算力也在形成自己的系统级路线。
| 端侧是云侧的另一面，有芯片厂商工作人员跟虎嗅感叹，今年WAIC展会现场已经三七开，三成是端，七成在云。
“未来AI的发展一定是端云协同的”，后摩智能联合创始人、产品副总裁信晓旭对虎嗅表示，以情感陪伴机器人等新兴硬件为例，用户与AI的私密对话天然排斥将数据上传至中心化的云端，而低延迟的交互与24小时不间断的在线需求，更适合在本地完成推理。
安谋科技NPU产品线负责人舒浩表示，端侧AI不是云端AI的缩小版，而是由功耗、实时性、软件、数据和可靠性共同定义的新计算市场。他的同事、CPU产品总监朱晓鸣指出，端侧设备无法像数据中心一样用高功耗和大规模散热换性能。
|
为了突围，安谋科技正在其CPU、NPU以及存内计算之间进行精密的物理空间调度，试图在有限的功耗和面积下，死磕AI推理的效率极限。
更有野心的是，端侧正在复制云端的“系统集成”策略，有的厂商试图将智能体直接封装进桌面设备中。此芯科技在其最新发布的AGX智能体计算平台上，就展现出了明显的“软硬一体化”企图，向下连接CPU、GPU、NPU和扩展AI卡，向上提供Agent OS、模型接入和行业应用。
摩尔线程也在把算力向端侧延伸。
| WAIC上，这家展品显示，AIBOOK定位为面向开发者的个人智算平台，预装OpenClaw智能体，AICUBE则定位为家庭AI中枢，整合AI PC、AI NAS和智能体能力。
这说明，推理时代的算力不会只往云端集中，也会向端侧重新分配。云端负责大模型训练、高并发服务和复杂任务；端侧负责隐私、低延时、本地数据和持续在线。两条路线不是替代关系，而是分工关系。
突围，还是绕远？
图片来源：太初元碁
回到最初的问题，国产算力的“超节点”热的根源。
答案可能并不是二选一。它当然是一种突围。先进制程和高端GPU供应受限后，国产AI芯片不能只等单卡性能追平。通过互联、统一内存、超节点、软件栈和系统集成，把更多“不完美”的芯片组织成可用算力，是中国AI算力产业必须走的一步。
|
然而，它也确实是更重的一条路。因为系统级的路线从来没有消除问题，它只是将原本属于微观层面的半导体瓶颈，重新分配到了更宏观、也更复杂的商业世界中。
在这种路线下，单卡性能的不足必须依赖成百上千张卡的协同来弥补，但这随即把网络拓扑、信号时延与整套系统的可靠性推向了新的物理极限。当庞大的卡群终于被塞进算力柜时，高密度的算力又立刻转化为功耗与散热压力，将电力扩容、液冷改造的代价，变成了必需的成本。
硬件的整柜交付也远非终点，隐藏在冰山下方的CUDA软件迁移、算子重写以及框架适配，紧接着变成了一笔企业无法赖掉的工程支出。即使这些障碍被逐一扫除，厂商们最终仍要向客户回答一个本质的问题，这套系统是不是比原先方案更好。
这就是系统级突围的现实，它解决了一部分问题，也制造了新的复杂性。WAIC展台上的参数再惊艳，也要看下一场发生在客户机房里的硬仗国产AI算力谁能突围。
Current article:http://4wga1.tichuaiyuxiongbenmiemang.shop/list_t016/c2qqddb.html
Published on:11:59:21
