号称千亿级参数量冠绝全球:华为盘古大模型到底是个啥水平?

2025-04-25 来源|AI图库吧

AI奇点网6月5日报道丨据国内媒体报道,华为公司计划在7月7日举行一年一度的华为云HDC 2023开发者大会,届时将发布一款直接对标ChatGPT的多模态千亿级大模型产品,名为“盘古Chat”,基于华为自研的盘古大模型。与ChatGPT和百度文心一言针对C端用户市场打造应用落地不同的是,华为这款产品主要面向ToB/ToG的政企端客户,服务于真正落地到各行各业的工作场景,针对提升千行百业的生产力。

根据华为官方最新披露的信息显示,需要明确说明的是,华为盘古大模型是一个系列,而不是一个独立的大语言模型。根据华为云官网的资料,盘古系列大模型包括以下五个基础系列大模型(L0):

中文语言(NLP)大模型视觉(CV)大模型多模态大模型科学计算大模型图识神经网络(Graph)大模型

五个基础子模型构成了盘古大模型的基本结构。接下来让我们分别认识一下这五个模型:

中文语言(NLP)大模型

是业界首个超千亿参数的中文预训练大模型,被认为是最接近人类中文理解能力的AI大模型。与ChatGPT等外国AIGC大预言模型相比,华为盘古大模型更注重针对中文语言的优化。作为一家非互联网社交属性的企业,华为为了打造盘古大模型,从互联网通过工具爬取了80TB公开的文本,最后清洗出1TB的中文数据集以供大模型训练。

其首次使用Encoder-Decoder架构,兼顾NLP理解与生成的能力。在预训练阶段学习了超40TB文本数据,并通过行业数据的小样本调优,提升模型在场景中的应用性能。在权威的中文语言理解评测基准CLUE榜单中,盘古NLP大模型在总排行榜及分类、阅读理解单项均排名第一,刷新三项榜单世界历史纪录;总排行榜得分83.046(人类水平是85.61分),多项子任务得分业界领先。

视觉(CV)大模型

超过30亿参数的业界最大的CV视觉大模型,首次实现模型按需抽取,首次实现兼顾判别与生成能力。它可以基于模型大小和运行速度需求,自适应抽取不同规模模型,AI应用开发快速落地,使AI开发进入工业化模式。使用层次化语义对齐和语义调整算法,在浅层特征上获得了更好的可分离性,使小样本学习的能力获得了显著提升,达到业界第一。

图识神经网络(Graph)大模型

首创图+网络融合技术,在工艺优化、时序预测、智能分析等场景有广泛应用。

多模态大模型

具备图像和文本的跨模态理解、检索与生成能力。

科学计算大模型

主要解决各种科学问题,旨在用AI促进基础科学的发展。

除了以上五个基础大模型(L0)以外,盘古大模型不断进化,共分为L0、L1、L2三个层级。其中,L0指基础大模型,L1指针对垂直领域的行业大模型,L2则是指面向更加细分应用场景的推理模型。

目前在L1级别的行业大模型方面,华为已经推出了盘古金融大模型、盘古矿山大模型、盘古气象大模型、盘古电力大模型、盘古制造质检大模型、盘古药物分子大模型等行业大模型。

在L2级细分场景模型方面,华为已经推出,例如基于气象大模型的短临气象预报、台风预测等场景模型;例如基于电力大模型的无人机电力巡检、电力缺陷识别等场景模型;例如基于时尚大模型的时尚辅助设计、时尚版权保护等场景模型。此外,在物联网、智能座舱、智能驾驶等领域,华为都已推出基于盘古大模型的各种应用。

AI生态建设方面,华为盘古大模型是基于昇腾计算产业生态。关于AI生态型产业链,华为提出“一平台双驱动”的模式。其中“一平台”指基础软件平台,包括AI处理器、服务器硬件以及芯片使能软件、AI框架。“双驱动”指平台要支撑的两大生态,一是技术生态,二是商业生态,包括ISV(独立软件开发商)、IHV(独立硬件开发商)、整机、一体机合作伙伴等。

最新
更多

号称千亿级参数量冠绝全球:华为盘古大模型到底是个啥水平?

根据华为官方最新披露的信息显示,需要明确说明的是,华为盘古大模型是一个系列,而不是一个独立的大型语言模型。

号称中文千亿参数量「地表最强」:华为盘古大模型到底是个啥水平?

华为盘古大模型为业界首个超千亿级参数的中文预训练大模型,与ChatGPT等国外AIGC大语言模型相比,华为盘古大模型更注重本土语言优化。

谷歌PaLM 2大语言模型参数量曝光:对比第一代大幅减少,但训练量翻五倍

近日,谷歌内部文件泄漏大量PaLM 2的训练细节被曝光,其中训练数据量是前代的近5倍、参数量仅为第一代2 3左右。

AI诈骗的门槛究竟有多低:几张受害者相关截图+免费开源的算法

近期,“AI诈骗正在全国爆发”的话题多次冲上微博热搜。就在上个月,合肥一企业的老板郭先生被“好友”视频差点骗走430万元。

索尼CEO:未来将把AI应用在PlayStation的云游戏业务

近日,索尼集团CEO吉田健一郎也对PlayStation的云游戏计划发表了评论,并表示有意让人工智能在新兴领域中发挥更重要的作用。

OpenAI官网单月访问量飙升至18亿:上榜全球访问量最高的网站TOP20

OpenAI的网站在3月份的访问量激增了54%以上,总共有8 47亿用户访问了该网站,这使得OpenAI成为全球20家流量最高网站之一。

网站地图