无问芯穹发布PDD跨集群异构推理架构,单Token成本可降低37.5%

2026-07-20 12:59

每经上海7月20日电 今日,无问芯穹在2026世界人工智能大会发布首创的新一代推理系统优化成果——PDD跨集群异构推理架构,极大提升大模型推理系统效率。实测显示,该架构在实现了首 Token 延迟(TTFT)降低 51.5% 的同时,单Token成本可降低37.5%。

以上内容归星岛新闻集团所有,未经许可不得擅自转载引用。

来源︱公司动态
关于我们        网站地图        诚聘英才        联系方式        意见反馈        隐私保护        新媒体矩阵

扫码查看原文
生成的海报
保存图片到手机