1.国产AI公司MiniMax发布MiniMax-01系列模型,包括基础语言大模型MiniMax-Text-01和视觉多模态大模型MiniMax-VL-01。
2.该模型采用MiniMax独有的Lightning Attention机制,上下文窗口长度达到顶尖模型的20-32倍水平。
3.除此之外,MiniMax团队计划在线性注意力路径上做到极致,尝试完全取消Softmax注意力层,实现无限的长上下文窗口。
4.MiniMax的开源行为展示了我国AI公司的技术创造力和商业化能力,有望推动底层技术创新。
以上内容由腾讯混元大模型生成,仅供参考
MiniMax,选择用开源「震撼」一下全球同行。
作者 | Li Yuan
编辑 | 郑玄
01
02
03
热点视频
查看原图 82K