中国推理服务高速档已到 100–400 tokens/s,但官方规格与实测不可混排
本页覆盖 11 条 2026 年公开可核验的中国推理服务速度记录(4 个官方规格、7 条第三方实测),来自 4 个独立来源域名,单一 URL 最多支撑 18.2% 的行。数值单位为 output tokens/s(输出吞吐)与 TTFT 秒(首 token 延迟);模型、模式与计费层级差异很大,跨模型数字不构成严格排名。
输出速度一览(降序)
官方规格(厂商公布,非独立压测)第三方实测
速度要和 TTFT 一起看
官方规格第三方实测仅画 TTFT 非空的 8 行;缺失值不画、不计为零
高吞吐不等于低延迟:SiliconFlow 承载的 DeepSeek V4 Flash Vision (Max) 170.2 tokens/s 但 TTFT 13.36 秒;阿里云百炼 qwen-flash 实测 137.4 tokens/s、TTFT 仅 0.41 秒。
artificialanalysis.ai ·
lmspeed.net
阿里云百炼独占吞吐官方标准工况下 qwen3.5-4b Standard 为 166.7 tokens/s、TTFT 0.552 秒;较大模型常见约 50–125 tokens/s,整体仍低于此前报告中 Cerebras 数千 tokens/s 的最高公开记录。
help.aliyun.com
重要提醒:跨模型数字不构成严格排名。推理模式、输入长度、输出长度、并发、地域、量化和共享/独占实例都会改变结果;GLM / Kimi / MiniMax 的高值有部分是官方规格,不等同独立压测。实际采购应在同一区域、相同 checkpoint、相同提示长度、相同并发下复测。缺失值在图表中留空,不以零显示。
完整记录
| 服务商 | 模型 / 模式 | 平台 | 口径 | tokens/s | TTFT 秒 | 日期 | 同场比较 | 来源 |
方法:11 条 2026 年中国推理服务速度记录,4 个独立来源域名(官方文档 4 行、第三方实测 7 行),单一 URL 最多占 18.2%。output tokens/s 为输出吞吐,TTFT 为首 token 延迟(秒);缺失值留空、不计为零。各行的模型、模式、输入/输出长度、并发与计费层级不同,数值仅供同口径内参考;为版面省略了页面原始标题全文。