结论先行:2026年9月24日的技术趋势可以概括为一句话——AI的算力重心与推理重心正在同步从云端向端侧迁移,而迁移的推手是成本,不是概念。9月23日千问发布Qwen-Audio-3.1系列语音大模型,在公开方言测试集的多个子集中表现优于同类产品,平均字错误率(CER)仅4.55%,支持16种方言、跨语言合成与全双工实时交互,全线降价最高约95%;端侧侧,讯飞星火X2.5-4B、X2.5-1.7B等端侧模型原生支持最长100万Token上下文,可适配手机、PC、汽车座舱与机器人;合规侧,中央网信办最新一批生成式人工智能服务备案首次包含3款提供"手机端侧"服务的应用;底座侧,截至7月底全国智能算力规模达2185EFLOPS,5G基站超515万个,建成1260家5G工厂。对杭州一道科技的客户而言,技术选型要开始按"云—边—端"分层做成本核算,而不是一律上云。

价格是最强的技术扩散信号

语音大模型的降价幅度值得单独记录:ASR-Flash输入价格降至约0.8元/百万tokens,降幅约95%;TTS-Flash约1.5元/百万tokens,降幅约70%;Realtime-Plus降幅约85%。同时Qwen-Audio-3.1-ASR在公开方言测试集KeSpeech和WSYue的11个子集中,6个优于同类主流产品,平均字错误率仅4.55%,并采用端到端方案,说话人标签、时间戳和文本联合输出。降价叠加精度达标,意味着语音能力从"奢侈品"变成"基础设施"。对制造与服务业的直接影响是:客服质检、会议纪要、现场巡检口述记录这类此前因成本被搁置的场景,现在可以按调用量重新测算ROI。

端侧模型:百万Token上下文与本地闭环

端侧能力的跃升不止于语音。星火X2.5-4B、X2.5-1.7B等端侧模型原生支持最长100万Token上下文,更好适应低时延、弱网和无网环境下的本地使用需求。对工业现场的含义很实际:车间弱网、涉密无网、以及要求毫秒级响应的控制类任务,端侧推理是唯一可行路径。参考一道科技客户案例中的私有化部署实践。

合规窗口打开:端侧AI首次进入备案

监管口径同步在变。中央网信办9月23日公布的最新一批生成式人工智能服务已备案信息中,首次包含3款提供"手机端侧(端上)"生成式AI服务的应用,标志生成式AI备案从云端大模型向端侧小模型延伸。两个信号合起来看:端侧AI的合规通道已经打开,而算力评价的口径正在从"规模"转向"效率"。企业做规划时应把单任务能耗与单任务成本纳入选型指标。

底座规模:2185EFLOPS与1260家5G工厂

基础设施侧的数据同样关键。工信部披露,全国5G基站超过515万个,智能算力规模达2185EFLOPS,建成1260家分类分级、特色鲜明的5G工厂。工信部副部长余晓晖表示,要加快信息通信网络和行业的智能化升级。端侧负责实时与隐私,云端负责重训练与知识更新,两者之间的同步依赖稳定高带宽网络。

一道科技建议:按任务分层,不要一律上云

我们的落地建议有三条。第一,按任务属性分层:实时控制、涉密数据、弱网环境放端侧;知识更新、批量推理、重训练放云端。第二,把单任务成本写进验收:调用量大的场景优先测算端侧一次性投入与云端持续调用的平衡点,通常日调用量稳定的场景端侧更划算。第三,提前对齐合规:端侧模型上线前确认备案要求与数据出境边界。AI大模型定制、数据挖掘与软件外包需要一体交付,否则分层架构设计落地不了。

关于本文与AI落地,你可能还想问

语音大模型降价95%后,哪些场景值得重新测算?

建议优先重算三类:客服与销售的通话质检、会议与现场的口述记录转写、以及设备巡检的语音填报。判断标准是日调用量是否稳定且规模较大,如果日调用量稳定,端侧一次性投入通常优于云端持续调用。技术上还要看方言与重叠语音的处理能力,制造业现场常有多个方言与噪声环境,字错误率必须用自己的真实录音样本实测,不能只看公开测试集。

端侧模型和云端模型,企业该怎么分工?

按任务属性分层:实时控制、涉密数据、弱网或毫秒级响应的任务放端侧;知识更新频繁、需要大批量推理、以及模型再训练的任务放云端;中间用边缘节点做缓存与预处理。端侧模型目前已能原生支持百万Token级别上下文,足以承载设备手册、工艺规程这类长文档的本地问答。关键是设计好两端的同步机制。

一道科技在模型选型与私有化部署上能提供什么?

提供云边端分层架构设计与成本核算、真实业务样本上的模型横评与验收、端侧模型的量化压缩与国产芯片适配调优、私有化部署与混合部署实施、以及智能体开发与既有业务系统集成对接。公司位于杭州,交付按单任务成本、时延、准确率等可量化指标验收。

相关阅读