首页 >> 产业 >> 产业 >> 正文
国产大模型的新考题:打通从训练到应用的效率链条
  • 界面新闻
  • 2026年10月26日 17:31

大模型竞争正在进入一个更现实的阶段。更大的参数规模、更强的推理能力,仍是技术迭代的重要方向,但当模型进入企业和个人的日常工作,训练周期、调用成本和任务完成效果,也开始影响一项技术能否被持续使用。模型能力的提升,需要与运行效率和应用价值一起接受检验。

对于国产大模型而言,这道考题还涉及底层算力条件。长上下文、代码和智能体任务,对显存容量、数据传输和集群协同提出更高要求。如何通过模型架构、训练方法与推理系统的协同优化,提高现有硬件的资源利用率,关系到模型能否持续迭代,也影响后续部署和使用的成本。

10月22日,科大讯飞发布讯飞星火X2.6大模型,基于全国产算力完成能力升级,支持百万Token上下文,并首次发布端云一体协同架构。同场推出和升级的法律、教育、医疗等应用,以及面向开发者的平台工具,则进一步呈现了这些底层能力进入具体业务的路径。

这是一条从研发延伸至应用的效率链条:训练提效,为能力升级缩短周期;推理与部署优化,让业务能够承担使用成本;行业知识与流程适配,让模型完成实际工作;开发者生态则将这些能力带入更多场景。科大讯飞试图回答的是,国产算力上的技术进展,如何逐层转化为规模化应用的条件。

先让国产算力支撑持续迭代

效率战首先发生在训练环节。

模型处理的信息越长,训练所需的计算、存储和通信资源通常也越多。在国产算力环境下,单纯增加芯片数量,并不能自动消除显存、带宽与集群协同带来的瓶颈。模型架构和训练方法需要与硬件条件相互适配,才能减少资源等待和调度损耗。

科大讯飞披露,星火X2.6采用面向国产平台的长程任务动态并行训练技术,针对长程任务混训中的效率问题进行优化。以飞星二号万卡集群训练2000B、256K长度数据为例,训练时间由4.5个月缩短至1.2个月,超长上下文训练效率达到原来的约4倍。

缩短训练周期的意义,不只在于节省一次训练的时间。模型研发需要反复验证算法、调整数据和训练策略,单轮周期越长,试错成本越高,后续能力升级也越容易受到牵制。提高资源利用率,才能让有限算力支撑更多轮迭代。

模型架构同样服务于这一目标。星火X2.6采用混合专家模型(MoE)架构,通过按任务激活部分专家网络,在保留较大参数容量的同时,控制单次计算所需的资源。训练调度与模型架构共同优化,回应的是如何把硬件资源更充分地转化为模型能力。

在科大讯飞董事长刘庆峰看来,全栈自主可控的关键,正包括对这套训练过程的掌握。“只有在国产算力上训练出模型,才是真正的自主可控。”他表示,自主可控还包括掌握算法并持续创新、自主获取和清洗数据,以及面向场景开展软硬件一体化创新的能力。

从这一理解出发,国产化需要贯穿模型训练、算法、数据和应用,而训练是其中难度较高、又无法绕开的环节。只有能够自主完成训练并持续优化,企业才有条件掌握模型升级的节奏。但模型训得更快,还只是效率链条的起点。

再把每次调用的成本降下来

训练阶段的投入相对集中,推理开销则伴随每一次用户调用持续发生。模型走向规模化应用后,这笔长期成本会成为企业必须计算的账。

尤其是长上下文、代码和智能体任务,往往需要读取更多材料、调用工具并保留中间状态。模型不仅要“算”,还要不断存取数据。如果缓存容量不足、访问效率不高,增加的等待与重复计算就会推高时延和资源消耗。

针对这一问题,科大讯飞推出面向国产异构算力集群的三项推理技术:自适应存算协同推理、异构分布式推理,以及适配全国产硬件的四层KVCache架构。KVCache用于保存模型生成过程中的部分计算结果,减少重复计算,是长上下文推理的重要支撑。

据公司披露,在相关飞星二号国产芯片集群上,推理效率达到优化前的4.5倍,KVCache命中率由63%提升至95.7%。这组优化着眼于让已有算力承接更多请求,降低模型能力增强后带来的服务压力。

部署方式则提供了另一条提效路径。并非每项工作都需要调用云端大模型,一些文档处理、本地表格操作和日程管理任务,可以在设备端完成;复杂任务再由云端承接,或由两端协作。

此次发布的端云一体协同架构,先由端侧模型判断任务应当“纯端办”“纯云办”还是“端云协办”。科大讯飞称,通过端云路由协同训练,路由准确率从81.2%提升至96.1%。这里的关键,是让任务分配与两端能力相匹配,避免因分配不当造成重复调用或任务失败。

刘庆峰表示,科大讯飞希望未来约60%的工作能够在本地电脑或手机上完成,减少敏感数据上传和云端调用开销。但这一目标对端侧模型提出了更高要求:读取邮件之后,还要比对附件、分析数据、识别风险,并连续调用工具完成工作。

“它不是一个简单的写一篇文章的问题。”刘庆峰说。端云分工能否成立,取决于端侧模型能否承担这些多步骤任务,也取决于系统能否准确判断何时需要云端介入。部署效率的提升,需要模型能力与任务调度共同支撑。

由此,训练效率与部署效率才真正衔接起来:前者让更强模型能够被持续研发,后者让这些能力以业务可承受的成本被使用。而成本降下来之后,还需要回答更具体的问题——模型是否懂得这项工作该怎么做。

让懂行业的AI进入工作流程

行业并不缺少数字化系统,难点在于把分散的数据、专业经验和日常流程连接起来。对于学校、医院和律师事务所而言,一个能够回答问题的通用模型,距离可以参与实际工作的助手,仍有一段适配过程。

法律场景中,此次推出的讯飞晓法,将端云协同落实到具体办案流程。案卷进入系统后,先在本地完成识别、整理;需要云端能力时,材料经脱敏和用户确认后上传,结果返回后再在本地还原。接案建卷、阅卷、文书起草、庭前准备与归档,在同一案件空间内衔接,减少不同环节之间的信息搬运。

据该公司介绍,讯飞晓法的专业基础来自其在公检法领域积累的1.6亿件案件辅助办理实践。目前已在国内部分律师事务所试用,辅助法律工作者整体办案效率提升45%以上。

教育场景中,此次发布的讯飞星光,将备课、教研、家校沟通和事务助理整合到同一工作台,并连接智学网、校信及企业微信、钉钉等平台。教师提出教学需求后,系统可以生成教案、动画和情景视频,也能制作可交互的教学资源。

这一能力已积累了一定使用规模。讯飞星光累计注册教师30万名,10万多名教师参与共创AI资源,近一个月创作精品资源超10万份;面向学生,科大讯飞AI学习机此次上新“探究学”,通过三维观察、操作和验证,将抽象知识转化为可以主动探索的问题。

医疗方面,讯飞影像云此次升级多模态、多病种能力,为影像质控和报告生成等环节提供支持。安徽省医学影像云平台已实现公立医疗机构全覆盖接入,汇聚超1.6亿例影像检查数据,为医患提供超2.6亿次服务,跨院调阅原始影像可在3秒内完成。

面向个人用户,讯飞晓医此次升级多医学报告综合解读,结合报告、病史和健康档案,提供健康风险洞察及综合健康管理计划。讯飞晓医累计完成AI咨询超2.2亿次,下载量破4400万,用户满意度98%。

这些行业应用的共同点,是将模型能力嵌入已有业务过程。科大讯飞积累的专业知识、数据和服务渠道,为模型适配提供基础,有助于减少重新理解业务、连接系统的投入。

“其实无论是大模型小模型,它其实都有幻觉。”刘庆峰在采访中表示,需要让模型充分融入企业流程,补充业务知识,并在各个流程节点建立严格的测试方法。

编 辑:甄清岚
[1]  [2]  
分享到: