8月10日消息,据《科创板日报》报道,华为将于8月12日在2025金融AI推理应用落地与发展论坛上,发布AI推理领域的突破性技术成果。据透露,这项成果或能降低中国AI推理对HBM(高带宽内存)技术的依赖,提升国内AI大模型推理性能,完善中国AI推理生态的关键部分。
注意到,华为在AI推理领域的技术突破已有先例。2025年3月,北京大学联合华为发布了DeepSeek全栈开源推理方案,该方案基于北大自研SCOW算力平台系统和鹤思调度系统,整合了DeepSeek、openEuler、MindSpore与vLLM/RAY等社区开源组件,实现了华为昇腾上的DeepSeek高效推理。
在性能方面,华为昇腾已实现多项突破。例如CloudMatrix384超节点部署DeepSeekV3/R1时,在50ms时延约束下单卡Decode吞吐突破1920Tokens/s;Atlas800IA2推理服务器在100ms时延约束下单卡吞吐达到808Tokens/s。
科大讯飞与华为的合作也取得了显著成果,双方率先实现了国产算力上MoE模型的大规模跨节点专家并行集群推理,使推理吞吐提升3.2倍,端到端时延降低50%。
上一篇:GPT-5问题太多,奥特曼带团回应一切,图表弄错是因「太累了」
据《科创板日报》报道,华为将于8月12日在2025金融AI推理应用落地与发展论坛发布AI推理突破性成果,或降低中国AI推理对HBM技术依赖,完善AI推理生态。华为AI推理成果
「它比我们想象得要坎坷一些!」
“经过一个季度的努力”
一文读懂84-810游戏行业大事件。
当大模型的讨论热潮逐步回归理性,企业关注焦点已转向AI如何真正落地,成为推动产业效率、绿色转型和商业模式重塑的关键变量。最近2025世界人工智能大会(WAIC)期间,关于AI如何真正融入产业、
兔子没在蹦床上,但人在短视频里
博思白板 — boardmix AI
扣子Coze
扣子Coze — 字节跳动
AI小聚
ZeroGPT
Aiundetect
WordfixerBot
Ai Sofiya
WriteAI.Tech
网站地图
消息称华为即将发布AI推理领域突破性成果:降低对HBM依赖,提升国内大模型性能
8月10日消息,据《科创板日报》报道,华为将于8月12日在2025金融AI推理应用落地与发展论坛上,发布AI推理领域的突破性技术成果。据透露,这项成果或能降低中国AI推理对HBM(高带宽内存)技术的依赖,提升国内AI大模型推理性能,完善中国AI推理生态的关键部分。
注意到,华为在AI推理领域的技术突破已有先例。2025年3月,北京大学联合华为发布了DeepSeek全栈开源推理方案,该方案基于北大自研SCOW算力平台系统和鹤思调度系统,整合了DeepSeek、openEuler、MindSpore与vLLM/RAY等社区开源组件,实现了华为昇腾上的DeepSeek高效推理。
在性能方面,华为昇腾已实现多项突破。例如CloudMatrix384超节点部署DeepSeekV3/R1时,在50ms时延约束下单卡Decode吞吐突破1920Tokens/s;Atlas800IA2推理服务器在100ms时延约束下单卡吞吐达到808Tokens/s。
科大讯飞与华为的合作也取得了显著成果,双方率先实现了国产算力上MoE模型的大规模跨节点专家并行集群推理,使推理吞吐提升3.2倍,端到端时延降低50%。
上一篇:GPT-5问题太多,奥特曼带团回应一切,图表弄错是因「太累了」
消息称华为即将发布AI推理领域突破性成果:降低对HBM依赖,提升国内大模型性能
据《科创板日报》报道,华为将于8月12日在2025金融AI推理应用落地与发展论坛发布AI推理突破性成果,或降低中国AI推理对HBM技术依赖,完善AI推理生态。华为AI推理成果
GPT-5问题太多,奥特曼带团回应一切,图表弄错是因「太累了」
「它比我们想象得要坎坷一些!」
代季峰陈天桥联手AGI首秀炸场!最强开源深度研究模型,GAIA测试82.4分超OpenAI
“经过一个季度的努力”
腾讯《虚环》《穿越火线:虹》公开实机演示;心动投资AI游戏公司;GPT-5可分钟级生成3D游戏 | 氪游周报8.4-8.10
一文读懂84-810游戏行业大事件。
施耐德电气:当AI进入产业主场核心技术+场景知识带来价值最大化
当大模型的讨论热潮逐步回归理性,企业关注焦点已转向AI如何真正落地,成为推动产业效率、绿色转型和商业模式重塑的关键变量。最近2025世界人工智能大会(WAIC)期间,关于AI如何真正融入产业、
「兔子蹦床」播放超 5 亿,这条全网最火 AI 视频,是人类爱被「骗」的结果
兔子没在蹦床上,但人在短视频里
博思白板 — boardmix AI
扣子Coze
扣子Coze — 字节跳动
AI小聚
ZeroGPT
Aiundetect
WordfixerBot
博思白板 — boardmix AI
扣子Coze
扣子Coze — 字节跳动
AI小聚
ZeroGPT
Aiundetect
WordfixerBot
Ai Sofiya
WriteAI.Tech