“P800照旧在百度里面得到了充分考据,咱们当今绝大无数的推理任务跑在P800上。”11月13日的百度寰宇大会上,百度集团现实副总裁、百度智能云职业群总裁沈抖表露了百度自研芯片在公司里面的应用情况,并称改日5年昆仑芯每年皆会推出新址品。
P800是百度自研芯片业务昆仑芯的第三代芯片。本年9月,商场有传奇称百度已运应用用自主联想的芯片P800进修新版文心一言(Ernie)AI 模子。在该音信刺激下,百度股价大涨超10%,创下2024年10月以来新高。但其时百度并未回复。
除了推理任务,沈抖当天还露出自研芯片在模子进修方面的表现。他示意,百度照旧基于一个P800的5000卡单一集群,高性价比地进修出了一个多模态模子;当今进修集群照旧延伸到万卡以上,何况正在进修更大的模子。
不单百度里面,昆仑芯也在互联网金融、动力制造、交通和教育等行业落地。沈抖先容,昆仑芯已有包括招商银行、南边电网、吉祥汽车、Vivo,以及一家互联网大厂和一家超头部运营商等上百家客户,拜托范畴从几十卡到万卡以上。
百度自研芯片最早追念到2011年,其时主如若为了深度学习运算的需要。直到2021年,昆仑芯业务安谧为“昆仑芯(北京)科技有限公司”,并完成融资。该公司最新一轮融资于本年7月完成,投资方包括上河动量基金、山证投资、国新成本等,天眼查傲气百度持股比例为59.45%。
在应用方面,本年上半年,百度曾露出收效点亮国内自研P800万卡集群,可同期承载多个千亿参数大模子进修。8月时,基于昆仑芯的AI办事居品中标中国移动十亿级集采名堂,为其提供AI通用盘算推理型设备,这亦然国产AI芯片在大型基础阵势名堂中的一次冲突。
百度当天露出了下一代自研芯片的期间表。其中,昆仑芯M100 针对大范畴推理场景优化联想,将于2026年上市;昆仑芯M300面向超大范畴多模态模子的进修和推理需求,将于2027年上市。
单颗芯片的庞大仅仅一个技艺条款,当今大模子的进修和推理皆是多颗芯片协同职责,尤其在目下贱行的MoE架构下,卡和卡之间的通讯量会急剧加多,需要把几十张几百张卡构成一个超节点,让这些卡像一个超等芯片同样致密聚拢在通盘,大幅度提高卡间的通讯。但“超节点”决议锻练AI infra厂商在芯片、内存、通讯、供电、冷却上的全栈协同技艺。
当天百度还发布了基于昆仑芯的天池256超节点与天池512超节点,二者将折柳在来岁上半年和下半年负责上市。其中对比同等卡数的P800集群,天池256超节点在主流大模子的推理任务上,单卡婉曲提高跨越3.5倍;单个天池512超节点大要完成万亿参数模子进修。
此外,据记者了解,基于百度新发布的昆仑芯M系列,百度也在研发千卡级别的超节点。从2027年运行,百度还将不息推出相应的千卡和4000卡的超节点。落拓记者发稿,当天百度港股股价涨超1.27%至127.8港元。
举报 第一财经告白联接,请点击这里此本色为第一财经原创,文章权归第一财经整个。未经第一财经籍面授权,不得以任何口头加以使用,包括转载、摘编、复制或开垦镜像。第一财经保留根究侵权者法律包袱的权益。如需获取授权请酌量第一财经版权部:banquan@yicai.com 文章作家
刘佳
关系阅读
百度初度表露AI业务营收,CFO回复成本开支百度CFO何海建回复,自2023年3月发布文心一言以来在AI界限的插足已跨越1000亿元。
428 11-18 21:59
AI周报 | OpenAI推出GPT-5.1;李彦宏回复AI泡沫争议百度李彦宏回复AI泡沫争议;Meta首席AI科学家杨立昆盘算下野创业。
160 11-16 08:45
生成式引擎“杀入”电商,双 11 品牌开抢大模子语言权品牌在争夺AI“推选位”,大模子也不才场“上畅通”.
6 248 11-12 17:21
百度第二次作念AI眼镜,售价跨越2000元巨头们百镜大战,争夺的是下一代东谈主机交互的进口主导权。
471 11-10 19:47
文远、小马世纪息争:敲钟现场持手,然后双双破发Robotaxi蛋糕还需进一步作念大天元证券_手机版APP升级包下载与电脑版更新说明。
190 11-06 17:06 一财最热 点击关闭天元证券_手机版APP升级包下载与电脑版更新说明提示:本文来自互联网,不代表本网站观点。