消息称亚马逊二代自研模型训练芯片 Trainium2 有望下月广泛推出

IT之家 11 月 12 日消息,英媒《金融时报》当地时间今日表示,亚马逊有望于 12 月宣布其第二代自研 AI 模型训练芯片 Trainium2 的“广泛可用”(widespread availability)。

Trainium2 芯片于去年末的 AWS 2023 re:Invent 全球大会上发布。亚马逊表示与第一代产品相比该芯片训练速度提升多达 4 倍,能效提升多达 2 倍,内存容量则达此前 3 倍,能在 EC2 UltraClusters 中扩展至多达 10 万个芯片,可以在极短的时间内训练基础模型和大语言模型。

图片

▲ ES 版本 Trainium2 芯片原型
可见 Annapurna Labs 丝印

Trainium2 芯片由亚马逊在 2015 年以 3500 万美元(IT之家备注:当前约 2.53 亿元人民币)收购的芯片设计部门 Annapurna Labs 牵头负责,据悉已在接受包括 Anthropic、Databricks、Stockmark 三家 AI 创企以及德国电信、日本理光在内的多个客户的测试

除亚马逊外,微软、谷歌、Meta 等大型科技企业也在自行开发各类 AI 推理或训练芯片,以减少对于英伟达硬件方案的依赖