客户端
游戏
无障碍

2

评论

4

1

手机看

微信扫一扫,随时随地看

腾讯日前发布自研混元深度思考模型T1正式版

日前,腾讯方面正式发布自研深度思考模型混元T1正式版。据了解,混元T1正式版是以腾讯于今年3月初发布的混元Turbo S为基座打造,是一款能秒回、吐字快、擅长超长文处理的强推理模型,其沿用了混元Turbo S的创新架构,并采用Hybrid-Mamba-Transformer 融合模式。

图片

据腾讯方面透露,这是工业界首次将混合Mamba架构无损应用于超大型推理模型,这一架构有效降低了传统Transformer结构的计算复杂度、减少了KV-Cache的内存占用,从而显著降低了训练和推理成本。

据悉,通过大规模强化学习,并结合数学、逻辑推理、科学和代码等理科难题的专项优化,混元T1正式版的推理能力进一步提升。在体现推理模型基础能力的常见benchmark上,如大语言模型评估增强数据集MMLU-PRO中,混元T1正式版的得分为87.2分,仅次于o1,而在CEval、AIME、Zebra Logic等中英文知识及竞赛级数学、逻辑推理的公开基准测试中,成绩也达到业界领先推理模型的水平。

同时基于出色的长文捕捉能力,混元T1正式版能有效解决长文推理中常见的上下文丢失和长距离信息依赖问题。而且混合Mamba架构针对长序列处理进行了专项优化,通过高效的计算方式,在确保长文本信息捕捉能力的同时大幅降低资源消耗,在相近的激活参数量下,实现了解码速度提升2倍。

目前混元T1正式版已经在腾讯云上线,并即将在腾讯元宝进行灰度测试。价格方面,其输入价格为每百万tokens 1元,输出价格为每百万tokens 4元。

值得一提的是,目前腾讯混元已接入700余个腾讯内部场景,并于2024年全面实现开源,并且腾讯元宝、微信、ima、腾讯文档等系列产品已批量接入DeepSeek-R1开源模型,为用户提供高质量AI体验。其中,腾讯元宝在2025年2月至3月实现DAU超20倍增长,已成为中国DAU排名第三的AI原生移动应用。

此外需要注意的是,在上线全新推理模型之前,3月17日腾讯混元已首次登上Chatbot Arena榜单,跻身全球大模型Top 15。

【本文图片来自网络】

免责声明:本内容来自腾讯平台创作者,不代表腾讯新闻或腾讯网的观点和立场。
举报
评论 0文明上网理性发言,请遵守《新闻评论服务协议》
请先登录后发表评论~
查看全部0条评论
首页
刷新
反馈
顶部