本文转载自微信公众号：国泰君安证券研究
报告导读：AI支出重心由训练转向推理，Token成为计量与变现单元。连接算力、模型与应用的大模型中间层已形成可识别商业模式：海外验证路由网关、高性能推理云、生产级部署三层分化；国内独立词元平台在封闭云主导格局下开辟差异化空间。
大模型中间层定位于算力、模型与应用之间的连接环节：一般不研发基座大模型，也不突出面向终端用户的应用产品。而是向下整合算力与多模型供给，向上以API、部署与运维能力承接应用侧调用，提供统一接入、推理加速、弹性调度乃至生产级上线等服务。
海外独立中间层已形成较清晰的商业模式分层。①路由网关层以OpenRouter为代表，通过统一API接入数百个开源与闭源模型，以纯软件路由、跨厂商负载均衡与自动故障切换匹配成本、性能与稳定性需求。本身不自研推理引擎、亦不直接租赁GPU，变现上沿用底层厂商推理定价、主要对用户收取约5%–5.5%手续费。公司披露周Token处理量半年内由约5万亿升至约25万亿，年化收入约0.5亿美元，B轮投后估值约13亿美元。
②推理云层中，Fireworks聚焦开源及客户定制模型的高性能推理与后训练，以自研推理栈与多云算力调度交付生产级服务，7月ARR 突破10亿美元、日Token超约40万亿，且95%以上流量来自专用模型，D轮投后估值175亿美元。Together AI则定位AI原生云，在开源模型推理、训练与强化学习之外，提供GPU集群等算力服务，并推进由转租向自建数据中心延伸，截至26 Q2年化订单额约11.5 亿美元，C轮投后估值约83亿美元。
③全栈部署层以Baseten为代表，帮助企业将自有或开源模型转化为可商用API，覆盖Dedicated Inference、Model APIs、Training等产品，并提供Cloud、Self-hosted、Hybrid等部署方式。同时以开源框架Truss与Chains复合工作流降低上线门槛、延伸至多步骤应用。预估ARR约6亿美元，F轮估值约110–130亿美元。
风险提示：商业化与持续经营风险，竞争与生态挤压风险，算力成本与利润率风险，客户集中与需求波动风险，技术迭代与产品替代风险，合规与数据安全风险。
报告来源
以上内容节选自国泰海通证券已发布的证券研究报告。
报告名称：开源权重普及与闭源定价博弈下，推理基础设施的定价权上移；报告日期：2026.08.16 报告作者：
秦和平（分析师），登记编号：S0880523110003
高翩然（分析师），登记编号：S0880525040066
重要提醒
本订阅号所载内容仅面向国泰海通证券研究服务签约客户。因本资料暂时无法设置访问限制，根据《证券期货投资者适当性管理办法》的要求，若您并非国泰海通证券研究服务签约客户，为保证服务质量、控制投资风险，还请取消关注，请勿订阅、接收或使用本订阅号中的任何信息。我们对由此给您造成的不便表示诚挚歉意，非常感谢您的理解与配合！如有任何疑问，敬请按照文末联系方式与我们联系。
法律声明
本公众订阅号(微信号: GTHT RESEARCH )为国泰海通证券股份有限公司(以下简称“国泰海通证券”) 研究所依法设立、独立运营的唯一官方订阅号。其他机构或个人在微信平台上以国泰海通研究所名义注册的，或含有“国泰海通研究"，或含有与国泰海通证券研究所品牌名称相关信息的其他订阅号均不是国泰海通证券研究所官方订阅号。本订阅号不是国泰海通证券研究报告发布平台，本订阅号所载内容均来自于国泰海通证券研究所已正式发布的研究报告，如需了解详细的证券研究信息，请具体参见国泰海通证券研究所发布的完整报告。在任何情况下，本订阅号的内容不构成对任何人的投资建议，国泰海通证券也不对任何人因使用本订阅号所载任何内容所引致的任何损失负任何责任。本订阅号所载内容版权仅为国泰海通证券所有，国泰海通证券对本订阅号保留一切法律权利。订阅人对本订阅号发布的所有内容(包括文字、影像等)进行复制、转载的，需注明出处为“国泰海通研究”， 且不得对本订阅号所载内容进行任何有悖原意的引用、删节和修改。