2026人工智能+大会|国产异构推理高品质AI Token工厂解决方案正式发布

2026人工智能+大会|国产异构推理高品质AI Token工厂解决方案正式发布

来源:环球网 2026-11-03 14:43
  • weixin
  • weibo
  • qqzone
分享到微信

11月3日消息,在近日举办的2026 人工智能+大会(2026 GAI+C)上,趋境科技联合智谱与摩尔线程正式发布“国产异构推理高品质 AI Token 工厂解决方案”。依托全系统异构协同实现推理加速,该方案率先打通“模型-推理-芯片”产业闭环,以底层系统工程大幅重塑“Token 经济性”,实现同等硬件投入下有效产出的成倍提升,并大幅降低综合成本。

对此,趋境科技创始人兼 CEO 艾智远表示:“大模型迈向商业闭环,算力成本是绕不开的第一道坎。当智能体与长文本把调用量推向指数级时,产业突围的关键在于攻坚底层系统工程,将算力储备转化为用得起、跑得稳的确定性生产力。此次发布的方案,正是通过系统级深度协同,跨越浅层适配的性能瓶颈,以算力经济性与生产级稳定性,真正实现从芯片、前沿模型到辐射全国核心产业规模化落地的全链路闭环。”

从输入理解到输出生成,大模型推理主要经历两个核心环节:用于快速解析上下文的 Prefill(预填充)阶段,以及负责逐字输出生成的 Decode(解码)阶段。传统方案多由同类硬件贯穿始终,往往难以兼顾两端截然不同的负载特征,不仅易造成局部性能闲置,更会推高综合部署成本。

据介绍,为了打破软硬件隔阂、让不同类型算力资源各展所长,本次全新发布的方案依托趋境科技首创的全系统异构协同推理技术,可实现异构资源的精准协同,让计算能力强的算力承载高计算密度的 Prefill 阶段,让显存带宽大的算力负责 Decode 阶段。趋境科技将集群中的 CPU、GPU、内存与高速网络整体纳入推理调度,在确保模型精度全链路无损、实施精细化跨卡协同组网,以及构筑毫秒级无损容错机制的基础上,打破单一芯片的性能瓶颈与异构协同的工程壁垒,在真实生产环境中将算力稳定转化为更高品质、更具经济性的 AI Token 产能。

在业务端,趋境科技国产异构 PD 相关方案已在生产环境全面投入使用,稳定承载万亿参数超大模型,并持续承接高并发真实业务流量。实测数据显示,趋境科技采用其国产异构方案,已经使得普通算力可以在企业核心生产环节落地。

在生态端,趋境科技正加速推进技术与交付标准的规模化复制,参与构建多地、多源的算力供应链网络。(青云)


免责声明:该文章系我网转载,旨在为读者提供更多新闻资讯。所涉内容不构成投资、消费建议,仅供读者参考。

【责任编辑:邵冰琦】
中国日报网版权说明:凡注明来源为“中国日报网:XXX(署名)”,除与中国日报网签署内容授权协议的网站外,其他任何网站或单位未经允许禁止转载、使用,违者必究。如需使用,请与010-84883777联系;凡本网注明“来源:XXX(非中国日报网)”的作品,均转载自其它媒体,目的在于传播更多信息,其他媒体如需转载,请与稿件来源方联系,如产生任何问题与本网无关。
版权保护:本网登载的内容(包括文字、图片、多媒体资讯等)版权属中国日报网(中报国际文化传媒(北京)有限公司)独家所有使用。 未经中国日报网事先协议授权,禁止转载使用。给中国日报网提意见:rx@chinadaily.com.cn
C财经客户端 扫码下载
Chinadaily-cn 中文网微信
×