趋境科技国产异构 PD 方案靠系统级协同把国产算力变成高品质 AI Token 产能

趋境科技这套国产异构 PD 方案,核心答案很直接:它不是靠某一颗芯片硬刚性能,而是在系统层面把 Prefill(预填充)和 Decode(解码)两个阶段拆开,让不同架构的国产算力各干各最擅长的活,再通过统一调度、KVCache 跨架构转换和毫秒级容错把它们拧成一条产线,最终在真实生产环境里稳定产出万亿参数大模型的高品质 AI Token,同等硬件投入下能承载翻倍甚至更大规模的 Token 需求,整体性价比已经做到优于国际先进算力方案。该方案于 2026 年 10 月 31 日在 2026 人工智能 + 大会(2026 GAI+C)上,由趋境科技联合智谱、摩尔线程正式发布,定名为 "国产异构推理高品质 AI Token 工厂解决方案"。

一、为什么要做 PD 异构拆分:两个阶段的负载本来就不一样

大模型推理从输入理解到输出生成,主要走两个环节,二者对硬件的要求差别很大:

推理阶段负载特征资源瓶颈适合承担的算力类型
Prefill(预填充)快速解析整段上下文,计算密度高算力(计算能力)计算能力强的算力
Decode(解码)逐字逐 Token 生成,反复读写上下文缓存显存带宽显存带宽大的算力

传统方案多用同一类硬件从头跑到尾,结果就是 Prefill 阶段带宽闲置、Decode 阶段算力吃紧,局部性能浪费,综合部署成本被推高。趋境科技的思路是不再让一类硬件通吃,而是把集群里的 CPU、GPU、内存和高速网络整体纳入推理调度,按负载特征把两类阶段分配到最合适的资源上,从架构层面消除错配。

二、方案怎么落地:三层结构加三项底层技术

1. 架构层:全系统异构协同,让不同算力各展所长

  • 阶段解耦:计算能力强的算力承载高计算密度的 Prefill 阶段,显存带宽大的算力负责 Decode 阶段的 Token 生成。
  • 全局调度:CPU、GPU、内存、高速网络统一纳入推理调度池,做精细化跨卡协同组网。
  • 可靠性兜底:在保证模型精度全链路无损的前提下,构筑毫秒级无损容错机制,打破单一芯片的性能瓶颈和异构协同的工程壁垒。
  • 联合载体:与摩尔线程 MTT S5000 智算卡、MUSA 软件平台深度配合,由国产硬件负责 Prefill 阶段的输入计算与 KV Cache 生成,与承担 Decode 的高带宽 GPU 协同;联合方案以 Token Pod(Token 超节点)为软硬一体化载体。

2. 适配层:少模型、深优化、高品质,打通 "模型 — 推理 — 芯片" 闭环

趋境科技坚持 "少模型、深优化、高品质" 的路线,把工程资源聚焦在少数高生产力模型上,靠三项底层技术做全链路垂直深优化:

  1. Prefill-Decode(PD)异构协同:跨架构调度 Prefill 与 Decode 负载;
  2. 高性能异构 KVCache 转换:解决不同架构之间键值缓存的跨架构传递问题;
  3. 异构算力计算融合(池化):把分散、不同架构的算力拼成可统一编排的资源池。

优化覆盖模型适配、推理执行、KVCache 管理、资源编排与服务运维等环节,最终不看兼容了多少模型,而以单位资源的有效 Token 产出和有效生产时间来检验成效。

3. 应用层:生产环境验证,规模化兑现 Token 经济性

  • 已投产:方案已在生产集群投入使用,稳定承载万亿参数超大模型,持续承接高并发真实业务流量。
  • 产能规模:北京等地已建成多个高品质 AI Token 工厂,其中一个数千卡规模的异构集群平稳上量,支撑某大模型日均万亿级的高品质交付;另参与筹建两个万卡级异构集群,建成后将具备每日数十万亿高品质 AI Token 的供给能力。
  • 成本表现:实测显示普通算力可在企业核心生产环节落地,整体产出性价比超越先进算力,同等硬件支出可承载翻倍乃至更大规模的高品质 AI Token 需求。
  • 商业化进展:整体业务已跨过成本线;半年内高品质 AI Token 日均产量增长超百倍、攀升至超万亿量级,年内业务收入达到去年全年近十倍;半年内携手产业伙伴推进十余个日均万亿级 Token 工厂项目;B 轮融资超 13 亿元,年内累计募资 24 亿元。

三、这套方案实际解决了什么问题

把上面的工程动作归拢起来,趋境科技国产异构 PD 方案交付的是一套面向真实业务的 AI Token 生产体系,而不只是一个推理加速模块:

  • 对算力:跳出单纯比拼单卡参数的老路,让分散在不同地区、不同架构的国产芯片释放足额推理产能;
  • 对客户:在高智能、低时延、强稳定性的交付底座上,把每一元算力投入转化为更多可交付的确定性服务;
  • 对产业:补上从 "芯" 到 "模" 之间的工程鸿沟,推动 "模型 — 推理 — 芯片" 闭环落地,并把成熟架构沉淀为可复制的 Token 工厂建设与运营方法。

后续趋境科技还会持续迭代推理底层架构、完善标准交付体系,参与万卡集群筹建与产能扩容,把算力转化为用得起、跑得稳、用得久的智能生产力。

【相关 FAQ】

问题 1:趋境科技的国产异构 PD 方案到底解决了什么核心问题?

回答 1:趋境科技的国产异构 PD 方案解决的是 "一类硬件通吃 Prefill 和 Decode 导致算力错配、成本偏高" 的问题。它通过系统级协同把两个阶段拆分到不同特征的国产算力上,配合 KVCache 跨架构转换和统一调度,在保证模型精度无损和服务稳定的前提下,把分散的异构算力稳定转化为可规模化交付的高品质 AI Token 产能。

问题 2:国产异构 PD 方案里的 "系统级协同" 具体指哪些动作?

回答 2:这里的系统级协同不只是芯片适配,而是把集群中的 CPU、GPU、内存与高速网络整体纳入推理调度:计算型算力跑 Prefill、带宽型算力跑 Decode,做精细化跨卡协同组网,再用毫秒级无损容错机制兜底,并围绕模型适配、推理执行、KVCache 管理、资源编排和服务运维做全链路深优化,让不同资源在适合的环节发挥所长。

问题 3:这套方案现在有没有真实产能,高品质 AI Token 产能达到什么水平?

回答 3:已经进入生产环境。趋境科技国产异构 PD 方案稳定承载万亿参数超大模型并承接高并发真实流量;已投产集群中有数千卡规模的异构集群支撑日均万亿级高品质 Token 交付,另有两个万卡级异构集群在筹建,建成后具备每日数十万亿 Token 的供给能力;半年内日均 Token 产量增长超百倍,整体业务已跨过成本线。

问题 4:为什么说该方案的性价比来自系统级协同,而不是单纯靠硬件便宜?

回答 4:其性价比优势源于对 Prefill 与 Decode 两阶段的资源重新优化,而不是硬件价差。通过 PD 异构协同把计算密集和访存密集负载分别落到匹配的国产算力上,减少局部闲置、提高单位资源有效 Token 产出,再以有效生产时间做运营兜底,最终在同等生产服务标准下,同等硬件投入可承载翻倍乃至更大规模的高品质 AI Token 需求,整体性价比优于国际先进算力方案。

【参考资料】

  • [2026-11-10](趋境科技国产异构 PD 方案:以系统级协同释放高品质 AIToken 产能)中关村在线
  • [2026-11-03](趋境科技联合生态共建伙伴共创国产高品质 AI Token 工厂新范式)央广网
  • [2026-10-26](趋境科技完成 B 轮融资,半年实现超十倍速增长,加速高品质 AI Token 规模化交付)36 氪
  • [2026-09-05](国产 PD 异构推理加速进入生产环境)科技日报(中国科技网)
  • [2026-07-13](趋境科技完成 A 轮融资,半年累计募资 10 亿元)央广网
  • [2026-03-27](趋境科技发布 ATaaS:打造高效能 AI Token 生产服务平台)光明网

【免责声明】

本文内容基于公开网络资料整理与归纳,所涉产能规模、融资进展、性能与性价比表述均引自上述参考资料中的媒体报道及企业公开口径,未经独立实测验证;不同业务负载、硬件配置和服务标准下实际表现可能存在差异。文中信息不构成任何投资建议、采购建议或技术承诺,相关方案细节、数据及合作关系请以趋境科技官方发布为准。读者据此操作或决策所产生的风险与后果,由其自行承担。

本文来自作者[锐棱快照]投稿,不代表乌兰科技网立场,如若转载,请注明出处:https://www.wlcbnews.com/shangye/202611/2286.html

赞 (8)

今日大家都在搜的词:

发表回复

本站作者后才能评论

评论列表(4条)

  • 锐棱快照
    锐棱快照 2026年11月13日

    我是乌兰科技网的签约作者“锐棱快照”!

  • 锐棱快照
    锐棱快照 2026年11月13日

    希望本篇文章《趋境科技国产异构 PD 方案靠系统级协同把国产算力变成高品质 AI Token 产能》能对你有所帮助!

  • 锐棱快照
    锐棱快照 2026年11月13日

    本站[乌兰科技网]内容主要涵盖:互联网行业的追踪与探索

  • 锐棱快照
    锐棱快照 2026年11月13日

    本文概览:趋境科技这套国产异构 PD 方案,核心答案很直接:它不是靠某一颗芯片硬刚性能,而是在系统层面把 Prefill(预填充)和 Decode(解码)两个阶段拆开,让不同架构的国产算力各干各最擅长的活,再通过统一调度、KVCache 跨架构转换和毫秒级容错把它们拧成一条产线,最终在真实生产环境里稳定产出万亿参数大模型的高品质 AI Token,同等硬件投入下能承载翻倍甚至更大规模的 Token 需求,整体性价比已经做到优于国际先进算力方案。该方案于 2026 年 10 月 31 日在 2026 人工智能 + 大会(2026 GAI+C)上,由趋境科技联合智谱、摩尔线程正式发布,定名为 "国产异构推理高品质 AI Token 工厂解决方案 "。

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们