客户端
游戏
无障碍

34

评论

52

74

手机看

微信扫一扫,随时随地看

腾讯混元T1正式版上线:创新混合Mamba架构,吐字快、擅长超长文推理

图片

3月21日,腾讯宣布推出自研深度思考模型混元T1正式版,并同步在腾讯云官网上线。

T1模型以腾讯于3月初发布的新一代快思考模型混元Turbo S为基座打造,是一款能秒回、吐字快、擅长超长文处理的强推理模型,性能保持业界领先。 

通过大规模强化学习,并结合数学、逻辑推理、科学和代码等理科难题的专项优化,混元T1正式版进一步提升了推理能力。与此前已上线腾讯元宝的混元T1-preview模型相比,综合效果明显提升。 

在体现推理模型基础能力的常见benchmark上,如大语言模型评估增强数据集MMLU-PRO中,混元T1取得87.2分,仅次于o1。在CEval、AIME、Zebra Logic等中英文知识及竞赛级数学、逻辑推理的公开基准测试中,混元T1的成绩也达到业界领先推理模型的水平。

此外,T1还在多项对齐任务、指令跟随任务和工具利用任务中展现出了非常强的适应性。

图片图片 注:表格中,其它模型的评测指标来自官方评测结果,官方评测结果中没有的部分来自混元内部评测平台结果混元T1正式版沿用了混元Turbo S的创新架构,采用Hybrid-Mamba-Transformer融合模式。这是工业界首次将混合Mamba架构无损应用于超大型推理模型。 

这一架构有效降低了传统Transformer结构的计算复杂度,减少了KV-Cache的内存占用,从而显著降低了训练和推理成本,让混元T1实现首字秒出,吐字速度达到最快80 tokens/s。

混元T1在超长文本推理领域也展现出独特优势。基于出色的长文捕捉能力,混元T1能有效解决长文推理中常见的上下文丢失和长距离信息依赖问题。同时,混合Mamba架构针对长序列处理进行了专项优化,通过高效的计算方式,在确保长文本信息捕捉能力的同时大幅降低资源消耗,在相近的激活参数量下,实现了解码速度提升2倍。

目前,混元T1已在腾讯云官网上线,输入价格为每百万tokens 1元,输出价格为每百万tokens 4元。

今年以来,腾讯混元大模型持续快速迭代,推出了深度思考模型T1 Preview和快思考模型Turbo S,并已广泛应用于腾讯元宝、ima、腾讯文档、微信读书、搜狗输入法、QQ浏览器等多款内部产品。

腾讯混元积极拥抱开源,开源模型全面覆盖文本、图像、视频和3D生成等多个模态,GitHub上总Star数超2.6万,多次登顶Hugging Face趋势榜。日前,腾讯混元再次宣布推出图生视频模型及5个全新3D生成模型,并全部开源,持续推动AI技术的开放共享与行业发展。(腾讯科技特约作者 晓静)

免责声明:本内容来自腾讯平台创作者,不代表腾讯新闻或腾讯网的观点和立场。
举报
评论 0文明上网理性发言,请遵守《新闻评论服务协议》
请先登录后发表评论~
查看全部0条评论
首页
刷新
反馈
顶部