直击WAIC丨如何缓解AI训练“效率瓶颈”?摩尔线程张建中:打造AGI“超级工厂”
专题:2025世界人工智能大会
新浪科技讯 7月27日午间消息,效率瓶颈2025世界人工智能大会(WAIC 2025)于7月26-28日在上海举办。直击张建中打造大会期间,丨何工厂摩尔线程首次提出了“AI工厂”理念,缓解公司创始人兼CEO张建中在分享中表示,训练线程“为应对生成式AI爆发式增长下的超级大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,效率瓶颈构建新一代AI训练基础设施,直击张建中打造为AGI时代打造生产先进模型的丨何工厂“超级工厂”。

据悉,缓解摩尔线程提出的训练线程“AI工厂”,如同芯片晶圆厂的超级制程升级,需要实现从底层芯片架构创新、效率瓶颈到集群整体架构的直击张建中打造优化,再到软件算法调优和资源调度系统的丨何工厂全面升级。这种全方位的基础设施变革,将推动AI训练从千卡级向万卡级乃至十万卡级规模演进,以系统级工程实现生产力和创新效率飞跃。
具体而言,这座“AI工厂”的智能“产能”,由五大核心要素共同决定,其效率公式可概括为:AI工厂生产效率=加速计算通用性×单芯片有效算力×单节点效率×集群效率×集群稳定性。摩尔线程将以GPU通用算力为基石,将通过先进架构、芯片算力、单节点效率、集群效率优化与可靠性等协同等深度技术创新,将全功能GPU加速计算平台能力转化为工程级训练效率与可靠性保障。
在单芯片算力方面,摩尔线程的GPU单芯片基于MUSA架构的突破性设计,可集成AI计算加速、图形渲染、物理仿真及超高清视频编解码能力,充分适配AI训推、具身智能、AIGC等多样化应用场景。且在计算精度方面支持从FP64至INT8的完整精度谱系,并通过FP8混合精度技术,在主流前沿大模型训练中实现20%~30%的性能跃升。
在内存与通信效率优化上,摩尔线程内存系统通过多精度近存规约引擎、低延迟Scale-Up、通算并行资源隔离等技术,实现了50%的带宽节省和60%的延迟降低。在通信和互联领域,独创ACE异步通信引擎减少了15%的计算资源损耗,MTLink2.0互联技术提供了高出国内行业平均水平60%的带宽,为大规模集群部署奠定了坚实基础。
在构建高效集群的基础上,稳定可靠的运行环境是“AI工厂”持续产出的保障。特别在万卡级AI集群中,硬件故障导致的训练中断会严重浪费算力。摩尔线程创新推出零中断容错技术,故障发生时仅隔离受影响节点组,其余节点继续训练,备机无缝接入,全程无中断。这一方案使KUAE集群有效训练时间占比超99%,大幅降低恢复开销。(文猛)

责任编辑:王翔
(责任编辑:探索)
-
衡中高考家长大军缩影:有母亲陪考三天,老父亲盼女儿考军校 编辑:汤晓雪 ...[详细]
-
宿松融媒讯 6月26日上午,我县大学生暑期应急救护训练营首期活动正式启动。活动由县委统战部主办,县红十字会、县新联会、东城医院、单采血浆站共同承办。开营仪式简短庄重,奏唱国歌后,县委统战部相关负责人致 ...[详细]
-
10岁男孩拿父亲丧葬费打赏主播 平台:正办理退款发布时间:2018-11-07 10:29 来源:豫都网 我要投稿[摘要]今天,一则“10岁熊孩子花5万打赏游戏主播钱”的视频引起网友广泛关注。视频显示 ...[详细]
-
兰迪真空玻璃与澳大利亚ClearVue签署合作备忘录,企业新闻
7 月 9 日,洛阳兰迪钛金属真空玻璃有限公司与澳大利亚ClearVue正式签署合作备忘录MOU),双方将构建战略合作伙伴关系,聚焦新型真空玻璃光伏建筑一体化BIPV)的研发、制造与全球市场拓展。这一 ...[详细]
-
发布者:蒙蒙 浏览量:7164发布时间:2022/2/18 15:07:05 通常我们说爆品的逻辑是优质产品+流量放大,那么强大的团队就会在效率高和产量高的池子里做深,重点打 ...[详细]
-
特斯拉 Model 3 被评为 2021 年美国制造最多的汽车据外媒报道,特斯拉 Model 3 被美国在线汽车销售服务商 Cars.com 评为 2021 年美国制造最多的汽车,这是 16 年来电动 ...[详细]
-
泉州积极推进省级人工智能产业园建设,以园区为支撑推动AI技术与实体经济深度交融,助推传统产业升级与数字经济发展。2023年7月,我市以泉州数字经济产业园为研发制造基地、数字福建安溪)产业园为算力支撑, ...[详细]
-
01在经济一片叫惨的当下,每个人似乎都不太敢轻易辞职。虽然混迹职场也好不到哪去,可好歹还有一份保底的工作。职场寒潮下,老李一直在筹谋新出路。尤其是看到身边的人选择创业之后,他更是有些按耐不住了。一开始 ...[详细]
-
现如今,玻璃越来越受到消费者的青睐,不但有磨砂玻璃、热熔玻璃、彩绘玻璃等装饰效果较强的艺术玻璃,还有各种功能型玻璃,例如隔音降噪的夹胶玻璃、中空玻璃和隔热阻燃的防火玻璃等。本篇文章将介绍车玻璃 ...[详细]
-
美的集团:何享健增持 8 亿元股份,已完成增持计划最低金额获悉,美的集团公告,2021 年 6 月 3 日至 22 日,控股股东美的控股一致行动人何享健通过集中竞价方式累计增持公司股份 1070 万股 ...[详细]