外界的目光开始移至AI大模型的下一阶段——逻辑推理。
作为大模型预训练的下一阶段,逻辑推理是指基于现有大模型,开发AI在各细分垂直领域的应用以实现终端落地。
从市面上的大模型产品看,包括谷歌的Gemini 2.0、OpenAI的o1等在内,ai agent(智能体)目前已经成为了各大公司的主攻方向之一。
随着AI大模型日趋成熟,有观点认为,以ASIC(专用集成电路)为代表的推理芯片将逐步取代以GPU为代表的训练芯片,成为各大AI公司的“新宠”。
而博通CEO对ASIC市场的乐观预期在一定程度上印证了外界对AI范式转向的预期,进而引发了上周五的股价暴涨。
半导体大致可以分为标准半导体和专用集成电路(ASIC)。标准半导体拥有标准化规格,只要满足基本要求,就可以应用于任何电子设备,而ASIC则是半导体制造商根据特定产品要求生产的半导体。
因此,ASIC一般会被应用于特定设计和制造的设备中,执行必要的功能。
AI运算也就由此衍生出两条路径:一种是英伟达GPU代表的通用路径,适合通用高性能计算,另一种是ASIC定制芯片为代表的专用路径。
作为标准半导体成品,GPU在处理大规模并行计算任务时表现出色,但当处理大规模矩阵乘法时,存在内存墙问题,而经过特殊设计的ASIC就可以解决这个问题,一旦大规模量产,ASIC的性价比会更高。
简单来说就是,GPU贵在目前产品成熟、产业链成熟,而ASIC的想象力在于更“专一”,并且在处理单个运算任务时能实现更高的处理速度和更低的能耗,因此也更适用于推理端边缘计算。
由于GPU产能趋紧且价格昂贵,众多科技巨头开始加入自研ASIC芯片的队伍,仅供自家使用。
有观点认为,谷歌是AI ASIC芯片的先驱,因其于2015年发布第一代TPU(ASIC)产品,同样具有代表性ASIC芯片还包括亚马逊的Tranium和Inferentia、微软的Maia、Meta的MTIA以及特斯拉的Dojo等。
在自研AI芯片的上游供应链上,迈威尔和博通是常年称霸的两大制造商。
除了谷歌和微软两个大客户,迈威尔还在近期与亚马逊AWS签订了为期5年的合作协议,帮助亚马逊设计自有AI芯片。业内人士认为,这将助推迈威尔AI定制芯片业务在下一财年实现翻倍增长。
作为迈威尔的主要竞争对手,博通同样拥有谷歌、Meta和字节三家大客户。
随着AI大模型进入“下半场”,真正的推理端刚刚开始,关于芯片的又一场鏖战即将打响。正如博通的CEO Hock Tan此前所预言:
“未来50%的AI Flops(算力)都会是ASIC,甚至CSP(超大规模云计算产商)内部自用100%都将是ASIC”。
上一篇:拥抱AI,传媒向新:2024中国报业传媒行业人工智能应用大会将在上海举行
上周五晚美股市场惊现“买博通、卖英伟达”:博通(broadcom)股价大涨27%,创下历史最高单日涨幅,公司市值突破1万亿美元,同时芯片龙头英伟达股价录得3 3%的下跌。 引爆买盘的导火索来自博通CEO Hock Tan在
海报设计 郁斐 智能时代,万业更新。在人工智能掀起的新一轮技术革命浪潮中,主流媒体正积极探索将新技术转化为系统性变革的新引擎。 2024年12月19日-20日,2024中国报业传媒行业人工智能应用大会将在上海举行
“张文宏是不是带货了?”最近,有网友称在网络卖货视频中看到知名医生张文宏在售卖一种蛋白棒产品。不过,经常刷短视频的朋友很快就能分辨出这是AI合成的视频,并非本人。对此,张文宏本人也回应称,这样的卖货账
12月10日,中国可持续发展研究会理事长李萌在第六届全球智博会上说:“全球智博会的名字里有‘应用’两个字,这是非常前瞻和务实的。我赞赏‘先用起来’的理念,它不是急功近利,而是符合像人工智能这样的领域技术研发
前言每周日至每周四推送明日股市重大公告!内容包含“停复牌、增减持、投资中标、收购、业绩、解禁、高送转”等一系列个股利好利空公告,其中重要公告均以红色标注,帮助投资者提前寻找到投资热点,防范各类黑天鹅
北京时间12月12日至13日,2024世界慕课与在线教育大会在英国伦敦举办。大会由世界慕课与在线教育联盟和联合国教科文组织教育信息技术研究所联合主办,共有来自全球28个国家和地区,135家高校、在线教育平台、国际
AI小聚
ZeroGPT
Aiundetect
WordfixerBot
Ai Sofiya
WriteAI.Tech
Cowriter
Seenapse AI
CreativAI
网站地图
从英伟达到博通,AI行业“范式大转变”
外界的目光开始移至AI大模型的下一阶段——逻辑推理。
作为大模型预训练的下一阶段,逻辑推理是指基于现有大模型,开发AI在各细分垂直领域的应用以实现终端落地。
从市面上的大模型产品看,包括谷歌的Gemini 2.0、OpenAI的o1等在内,ai agent(智能体)目前已经成为了各大公司的主攻方向之一。
随着AI大模型日趋成熟,有观点认为,以ASIC(专用集成电路)为代表的推理芯片将逐步取代以GPU为代表的训练芯片,成为各大AI公司的“新宠”。
而博通CEO对ASIC市场的乐观预期在一定程度上印证了外界对AI范式转向的预期,进而引发了上周五的股价暴涨。
ASIC是什么?比GPU更“专一”
半导体大致可以分为标准半导体和专用集成电路(ASIC)。标准半导体拥有标准化规格,只要满足基本要求,就可以应用于任何电子设备,而ASIC则是半导体制造商根据特定产品要求生产的半导体。
因此,ASIC一般会被应用于特定设计和制造的设备中,执行必要的功能。
AI运算也就由此衍生出两条路径:一种是英伟达GPU代表的通用路径,适合通用高性能计算,另一种是ASIC定制芯片为代表的专用路径。
作为标准半导体成品,GPU在处理大规模并行计算任务时表现出色,但当处理大规模矩阵乘法时,存在内存墙问题,而经过特殊设计的ASIC就可以解决这个问题,一旦大规模量产,ASIC的性价比会更高。
简单来说就是,GPU贵在目前产品成熟、产业链成熟,而ASIC的想象力在于更“专一”,并且在处理单个运算任务时能实现更高的处理速度和更低的能耗,因此也更适用于推理端边缘计算。
为科技巨头定制AI芯片,成了迈威尔和博通的“摇钱树”
由于GPU产能趋紧且价格昂贵,众多科技巨头开始加入自研ASIC芯片的队伍,仅供自家使用。
有观点认为,谷歌是AI ASIC芯片的先驱,因其于2015年发布第一代TPU(ASIC)产品,同样具有代表性ASIC芯片还包括亚马逊的Tranium和Inferentia、微软的Maia、Meta的MTIA以及特斯拉的Dojo等。
在自研AI芯片的上游供应链上,迈威尔和博通是常年称霸的两大制造商。
迈威尔的崛起离不开其新领导层的成功战略。仿佛早有预见般,该公司CEO Matt Murphy自2016年上任以来,趁公司重组之际将公司战略重心转向为科技巨头定制芯片,成功在AI大潮中抓住了机遇。除了谷歌和微软两个大客户,迈威尔还在近期与亚马逊AWS签订了为期5年的合作协议,帮助亚马逊设计自有AI芯片。业内人士认为,这将助推迈威尔AI定制芯片业务在下一财年实现翻倍增长。
作为迈威尔的主要竞争对手,博通同样拥有谷歌、Meta和字节三家大客户。
有分析预计,到2027-2028年,每家客户都会达到1年百万片ASIC的采购规模,随着第四和第五大客户也开始快速爬升,这些科技公司的芯片订制订单将在未来几年给博通带来十分可观的AI收入。随着AI大模型进入“下半场”,真正的推理端刚刚开始,关于芯片的又一场鏖战即将打响。正如博通的CEO Hock Tan此前所预言:
“未来50%的AI Flops(算力)都会是ASIC,甚至CSP(超大规模云计算产商)内部自用100%都将是ASIC”。
上一篇:拥抱AI,传媒向新:2024中国报业传媒行业人工智能应用大会将在上海举行
从英伟达到博通,AI行业“范式大转变”
上周五晚美股市场惊现“买博通、卖英伟达”:博通(broadcom)股价大涨27%,创下历史最高单日涨幅,公司市值突破1万亿美元,同时芯片龙头英伟达股价录得3 3%的下跌。 引爆买盘的导火索来自博通CEO Hock Tan在
拥抱AI,传媒向新:2024中国报业传媒行业人工智能应用大会将在上海举行
海报设计 郁斐 智能时代,万业更新。在人工智能掀起的新一轮技术革命浪潮中,主流媒体正积极探索将新技术转化为系统性变革的新引擎。 2024年12月19日-20日,2024中国报业传媒行业人工智能应用大会将在上海举行
名人“被AI” 监管应升级
“张文宏是不是带货了?”最近,有网友称在网络卖货视频中看到知名医生张文宏在售卖一种蛋白棒产品。不过,经常刷短视频的朋友很快就能分辨出这是AI合成的视频,并非本人。对此,张文宏本人也回应称,这样的卖货账
人工智能要“先用起来”
12月10日,中国可持续发展研究会理事长李萌在第六届全球智博会上说:“全球智博会的名字里有‘应用’两个字,这是非常前瞻和务实的。我赞赏‘先用起来’的理念,它不是急功近利,而是符合像人工智能这样的领域技术研发
【公告全知道】华为+人形机器人+人工智能+多模态AI!公司成立人工智能与人形机器人研究院
前言每周日至每周四推送明日股市重大公告!内容包含“停复牌、增减持、投资中标、收购、业绩、解禁、高送转”等一系列个股利好利空公告,其中重要公告均以红色标注,帮助投资者提前寻找到投资热点,防范各类黑天鹅
“人工智能+高等教育”会擦出怎样的火花?这个大会给出答案
北京时间12月12日至13日,2024世界慕课与在线教育大会在英国伦敦举办。大会由世界慕课与在线教育联盟和联合国教科文组织教育信息技术研究所联合主办,共有来自全球28个国家和地区,135家高校、在线教育平台、国际
AI小聚
ZeroGPT
Aiundetect
WordfixerBot
Ai Sofiya
WriteAI.Tech
Cowriter
AI小聚
ZeroGPT
Aiundetect
WordfixerBot
Ai Sofiya
WriteAI.Tech
Cowriter
Seenapse AI
CreativAI