中国推理服务高速档已到 100–400 tokens/s,但官方规格与实测不可混排

原始问题
2026 年最快的推理服务提供商
追问
它们的速度如何

本页覆盖 11 条 2026 年公开可核验的中国推理服务速度记录(4 个官方规格、7 条第三方实测),来自 4 个独立来源域名,单一 URL 最多支撑 18.2% 的行。数值单位为 output tokens/s(输出吞吐)与 TTFT 秒(首 token 延迟);模型、模式与计费层级差异很大,跨模型数字不构成严格排名。

输出速度一览(降序)

官方规格(厂商公布,非独立压测)第三方实测

速度要和 TTFT 一起看

官方规格第三方实测仅画 TTFT 非空的 8 行;缺失值不画、不计为零
智谱 GLM-5.1-HighSpeed 官方规格 400 tokens/s,官方称稳定生产级能力而非峰值,是本表最高值。docs.bigmodel.cn
第三方实测中最快的是 DeepSeek V4.1 Flash (Max):约 211 tokens/s、TTFT 约 1.0 秒,速度与低延迟兼得。artificialanalysis.ai
高吞吐不等于低延迟:SiliconFlow 承载的 DeepSeek V4 Flash Vision (Max) 170.2 tokens/s 但 TTFT 13.36 秒;阿里云百炼 qwen-flash 实测 137.4 tokens/s、TTFT 仅 0.41 秒。artificialanalysis.ai · lmspeed.net
阿里云百炼独占吞吐官方标准工况下 qwen3.5-4b Standard 为 166.7 tokens/s、TTFT 0.552 秒;较大模型常见约 50–125 tokens/s,整体仍低于此前报告中 Cerebras 数千 tokens/s 的最高公开记录。help.aliyun.com
重要提醒:跨模型数字不构成严格排名。推理模式、输入长度、输出长度、并发、地域、量化和共享/独占实例都会改变结果;GLM / Kimi / MiniMax 的高值有部分是官方规格,不等同独立压测。实际采购应在同一区域、相同 checkpoint、相同提示长度、相同并发下复测。缺失值在图表中留空,不以零显示。

完整记录

服务商模型 / 模式平台口径tokens/sTTFT 秒日期同场比较来源

方法:11 条 2026 年中国推理服务速度记录,4 个独立来源域名(官方文档 4 行、第三方实测 7 行),单一 URL 最多占 18.2%。output tokens/s 为输出吞吐,TTFT 为首 token 延迟(秒);缺失值留空、不计为零。各行的模型、模式、输入/输出长度、并发与计费层级不同,数值仅供同口径内参考;为版面省略了页面原始标题全文。

This report was generated automatically by Keenable SELECT at a user's request, from publicly available web sources linked herein. Keenable does not review, verify, or endorse its contents and makes no representation as to accuracy, completeness, or timeliness; AI-based extraction may contain errors. Nothing in this report is investment, legal, financial, or other professional advice. All trademarks and referenced content remain the property of their respective owners; no affiliation or endorsement is implied. To report an error, rights concern, or request removal: legal@keenable.ai.

Keenable SELECTAsk your own question
Made with Keenable SELECT