AI推理算力需求即将爆发,深圳云天励飞加注推理芯片

音符科技网

界面新闻记者 | 梁宝欣

界面新闻编辑 | 林腾

AI推理芯片正成为人工智能行业新的涌入方向。

7月25日,2025年世界人工智能大会期间,界面新闻记者了解到,深圳云天励飞(688343.SH)宣布全面聚焦AI推理芯片,围绕边缘计算、云端大模型推理、具身智能三大场景,目标是国产算力“加速器”。

云天励飞董事长兼CEO陈宁告诉界面新闻等媒体,2025年成为人工智能发展的重要转折点——大模型技术达到新的成熟高度,模型调用成本显著降低。AI从“专家工具”逐步演变为“全民基础设施”。AI正从训练时代迈入推理时代,预示着推理算力需求将迎来爆发式增长。

今年以来,以DeepSeek R1为代表的新一代大模型加速发展,推动AI产业的深度变革。中信建投证券研报指出,DeepSeek R1在长CoT数据微调基础上应用强化学习,除性能提升外,DeepSeekR1采用GRPO强化学习策略,专门优化数学推理任务,减少计算资源消耗,实现更低的成本。推理成本来看,R1模型价格只有OpenAI o1模型的几十分之一,具有极高的性价比优势。

除此之外,中信建投证券研报还提到,三大增量助力推理算力需求加速,一是各家互联网大厂加速AI与原有业务结合,二是Agent和深度思考推理的结合,三是多模态加速渗透。

陈宁表示,未来AI可能全面重塑我们身边的各类电子产品——从智能耳机、智能眼镜等可穿戴设备,到扫地机器人、冰箱等家用电器,再到电动汽车,几乎所有电子设备的形态与功能都将被重新定义。这些设备将具备“主动工作”的能力,能像人类一样开 *** 流,理解复杂指令、主动回应需求甚至解决实际问题。可以预见,未来各类智能设备,也能通过更人性化的交互,实现功能的跃升与体验的革新。而这一切场景的落地,都离不开AI 推理芯片的底层支撑。

推理算力需求的爆发,核心依赖AI推理芯片——这是云天励飞选择聚焦该领域的关键背景。

从AI芯片的分类来看,根据所承担任务的不同,可分为训练芯片和推理芯片。其中,推理芯片主要负责利用神经 *** 模型进行推理预测,需综合考量单位能耗算力、时延、成本等多方面指标。

虽然当前AI推理芯片市场仍处于蓝海阶段,其市场规模相较于数千亿美元的训练芯片市场仍较小,但预计未来三至五年内,AI推理芯片的增长速度将大幅超越训练芯片。陈宁说。

针对各类应用场景,云天励飞已开发出 DeepEdge10C、DeepEdge10标准版、DeepEdge10Max 和 DeepEdge200 四款芯片。

据了解,2023年11月 ,云天励飞正式发布面向边缘人工智能的DeepEdge10系列推理芯片,其核心定位便是满足边缘端对千亿参数大模型的部署需求支持包括Transformer模型、BEV模型、CV大模型、LLM大模型等各类不同架构的主流模型

从技术底层来看DeepEdge10系列芯片采用的是“算力积木”架构,通过D2D Chiplet技术、C2C Mesh技术和C2C Mesh Torus技术,将多个标准计算单元像搭积木一样,封装成不同算力的芯片和多芯片互连的可扩展计算系统,覆盖8T-256T算力需求,可实现7B、14B、130B、671B等不同参数量大模型的推理,赋能各类智算推理硬件产品。

云天励飞CTO李爱军表示,算力积木架构实现了两方面核心能力:一方面是算力的纵向拓展(scaleup),即在单个计算节点内聚合更多算力——通过该架构,可在一个封装内最多集成8个算力积木,形成统一算力。这一架构源于2020年对GPT等算法的分析,目前已在Edge10芯片上落地,实现了单个封装内集成8个积木、达成128T推理算力的单芯片成果。

另一方面是通过C2C Mesh技术(结合Mesh互联与Mesh Torus技术)实现算力扩展:将多个节点首尾连接形成更大规模的算力池,从而支撑MoE架构大模型的推理。

目前,DeepEdge10芯片平台已成功适配DeepSeekR1系列模型、QwQ-32B模型及国产鸿蒙操作系统。

从经营数据来看,2024年云天励飞营收增长了81%;今年一季度,这一增速进一步提升至160%。云天励飞管理层表示,展望下半年,随着AI推理算法的迭代、算力需求的攀升以及AI应用的持续拓展,有信心继续保持高速增长的态势。

文章版权声明:除非注明,否则均为音符科技网 wap.luzhiwang.com原创文章,转载或复制请以超链接形式并注明出处。

相关阅读

  • 收盘:美股周一收高 道指收复前一交易日跌幅
  • 唐山新型肺炎确诊病例,唐山确诊新型冠状病毒
  • 原油:油价震荡走低 受俄乌局势不明和OPEC+计划增产影响
  • 【河北保定要求行程卡带星隔离7天,保定行程轨迹】
  • 摩根士丹利:特斯拉7月在美纯电汽车销量占比同比下降
  • 焦作疫情最新消息,焦作疫情最新疫情1例
  • 国际油价周一下跌 因OPEC+推进9月增产计划
  • 【理响中国·一线探新】手绘|小小香果美了生态、富了口袋
  • 世运会入蜀烟火气更足
  • 【辽宁新增5例境外输入无症状/辽宁新增1例本土无症状活动轨迹】
  • 通用汽车股价上涨 得益于7月电动车销售业绩亮眼
  • 尾盘:道指上涨500点 挽回前一日大部分跌幅
  • 上海预计解封时间,上海预计解封时间是几号
  • 分析:颇具争议的7月就业报告证实美国经济增速大幅放缓
  • 前纽约联储行长淡化美联储内部分歧 直言两位理事另有动机
  • 美国及北约正式启动 “乌克兰优先需求清单” 援助机制
  • 北约企图将兵力前推 俄军有三张“王牌”反制
  • 达利欧:我或许也会解雇劳工统计局局长
  • 专访|中欧班列助推土耳其边城打造区域物流枢纽——访土耳其卡尔斯市市长厄蒂肯·申盖尔
  • Figma股价在上周IPO暴涨后下跌超20%
  • 宝鸡疫情最新情况/宝鸡疫情最新新增病例
  • 改造主观世界的“营养”改造客观世界的“钥匙”
  • 印度回应美国与欧盟:批评印度的国家却在与俄罗斯开展贸易
  • 俄外交部:部署中短程陆基导弹的限制已与俄无关
  • 以旧换新,激活快递物流新动能
  • 亚马逊重组音频业务,裁减Wondery播客部门部分岗位
  • 俄罗斯称该国将不再受中程导弹禁令约束
  • 瑞士对美大额贸易顺差被特朗普盯上 这个小型产业脱不了干系
  • 上海全部解封通知最新/上海解封通知最新今天
  • 特朗普散布就业数据阴谋论,白宫为解雇劳工统计局局长辩护
  • 全球瞭望丨美国学者:亿万富翁左右美国政治
  • 新兴市场缩减涨幅 美国威胁提高印度关税
  • 尺素金声|财政资金精准发力,“两新”政策持续显效
  • 谷物和大豆价格维持在低位附近 等待美国作物状况报告
  • 亚马逊对Wondery播客工作室进行重组,裁员 110 人
  • 古村落里有片“宝树林”
  • 特朗普两个儿子支持的特殊目的收购公司(SPAC)申请3亿美元IPO
  • 安森美半导体季度营收下滑,受市场不确定性影响,第三季度利润前景黯淡
  • 欧洲债市:欧元区债券上涨 意大利国债跑赢
  • 欧洲市场反弹回升 瑞士市场受美国关税冲击下跌
  • 目录[+]

    取消
    微信二维码
    微信二维码
    支付宝二维码