随着大模型技术迅速迭代，词元（Token）服务已成为技术走向应用的关键节点。10月23日，中国信息通信研究院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室与中国人工智能产业发展联盟联合发布《大模型词元服务性能监测报告（2026年）》（下称报告）。
报告显示，词元服务呈现量价齐升态势，其中国内的词元价格较去年下半年翻倍，但量的增长达到3倍。2026年6月，国内词元日均消耗量约500万亿，是2025年12月的近4倍。越来越多模型即服务（MaaS）平台厂商通过公有云API方式供给大模型词元服务，而用户对词元服务性能缺乏直观判断依据、面临选型困难，是该报告开展的背景。
报告基于2026年1至8月的监测数据，围绕调用成功率、吞吐速度、首词时延、稳定性、价格、上下文窗口等维度，对国内外大模型词元服务开展分析。
经历过去两年价格战后，2026年国内外模型服务价格明显上涨：归一化（注：把各家不同的计价方式，折算到同一个统一口径上，让价格可以横向比较）均价从2025年下半年的6.8元涨至今年的13.46元，涨幅接近一倍；但国外价格仍显著高于国内，2026年以来发布的典型模型平均归一价格约为117.8元。
性能方面，8月份国内各模型平均每秒输出词元数（TPS）达到78.23个，较2025年均值38.25个实现翻倍；但同期国外典型模型TPS均值为112.82个，整体仍优于国内。时延方面，国内模型平均首词时延（TTFT）呈持续上升态势，8月份均值达1.26秒，较2025年平均值0.78秒明显增加；国外典型模型8月TTFT平均值为2.08秒，同样呈上升趋势。报告解释称，时延上升并非单纯的性能退化，而是伴随模型参数量增加、上下文长度增加、调用量增加等多种因素同步产生的结果。
报告监测的模型中，上下文长度达到100万（1M）词元的模型占比已达47.8%，20万（200K）词元及以上的合计占比达95.7%，较2025年底提升超过76个百分点，更短上下文模型的占比则持续减少。
报告还对比了DeepSeek、Qwen、GLM、Kimi四款开源模型在不同第三方平台上的表现。5月份四款开源模型完成新版本换代后，TPS持续提升、时延不断压缩——以8月份数据计，DeepSeek-V4-Pro的TPS已达到DeepSeek-V3.2的2倍。但同一模型在不同平台间的表现不一：部分第三方平台的性能明显优于官方平台，同一模型在不同平台间的TPS差距最大可接近一倍。报告认为，各平台对相同模型的推理加速、优化策略、成本控制不同，是造成性能分化的主要原因。
