全球最大AI超算、新一代AI芯片和模型、训练苹果AI......亚马逊re:Invent全球大会来了!

作为全球最大的云计算提供商,亚马逊在最近与微软和谷歌的竞争中处于下风。为了重振雄风,亚马逊正在加快速度打造在人工智能计算领域的优势。

当地时间周三,亚马逊在拉斯维加斯举行Re:Invent大会,并在大会上宣布了AWS(亚马逊云)的一系列最新重磅计划和产品,包括:

与OpenAI的死对头Anthropic合作,打造全球最强大的AI超级计算机;准备与苹果合作训练Apple Intelligence(苹果AI);明年底推出下一代更先进的3纳米训练芯片Trainium 3。此外,亚马逊还推出了新一代基础模型Amazon Nova。

联合Anthropic,打造人工智能超级计算机

亚马逊网络服务公司首席执行官Matt Garman在会上表示,公司正在创建一个名为UltraServers的AI训练平台——包含64个Trainium 2芯片——以便扩展生成式AI工作负载。

这个云服务平台将用于一个雄心勃勃的计划——AI超级计算机。亚马逊在大会上宣布,将与Anthropic合作开发AI超级计算机UltraCluster,代号Rainer。

亚马逊表示,预计这台计算机将配备数十万个亚马逊最新的AI训练芯片Trainium 2,建成后将比Anthropic当前最强大模型的集群大五倍,并成为全球最大的AI超级计算机。

面对微软和OpenAI的强大竞争组合,亚马逊选择与Anthropic“抱团取暖”,今年已向Anthropic投资80亿美元。

更强大的新一代芯片,挑战英伟达霸主地位?

Garman在Re:Invent大会上表示,Tranium 2将在专门用于训练前沿AI的Trn2 UltraServer集群中普遍可用。

许多公司已开始采用亚马逊的云来构建和训练定制的AI模型,通常配合英伟达的GPU使用。但Garman表示,新的AWS集群比采用英伟达GPU的集群便宜30%到40%。

Garman表示,亚马逊的目标是降低AI的成本。

今天,在GPU方面真的只有一个选择,那就是英伟达。我们认为客户会欣赏有多个选择。

希望Trainium能够开辟出一个良好的细分市场,我认为它将成为许多工作负载的极佳选择——不是所有工作负载。

会上,亚马逊还发布其下一代更先进的3纳米训练芯片Trainium 3,据称该芯片的性能将是现有芯片的四倍,定于2025年底向客户推出。

Moore Insight & Strategy首席执行官兼首席分析师Patrick Moorhead表示,Trainium 3的“数据相当惊人”,它的性能似乎因芯片间互连的改进而获得了显著提升。互连对于开发超大型AI模型至关重要,它们能够实现芯片之间的快速数据传输,AWS似乎已在其最新设计中对此进行了优化。

Moorehead还说,未来一段时间内英伟达可能仍是AI训练领域的霸主,但未来几年它将面临越来越激烈的竞争,亚马逊的创新“表明英伟达并不是训练领域唯一的玩家”。

与苹果的合作拉开新篇章?

据媒体此前报道,苹果正在考虑将Trainium 2芯片用于Apple Intelligence训练。Garman在会上表示,苹果是其客户之一,已经采用了一些AWS芯片,如Amazon Graviton和Inferentia,为包括Siri在内的服务提供支持。

苹果的AI和机器学习高级总监Benoit Dupin随后在拉斯维加斯的会议上上台。他表示,苹果与AWS合作了“几乎所有阶段”的AI和机器学习生命周期。

AWS能够跟上步伐,我们已经是超过十年的客户了。

Dupin表示,苹果正在对Trainium 2芯片进行初步测试,以帮助训练Apple Intelligence。

新一代生成式AI模型

大会上,亚马逊还推出了新一代的基础模型——Amazon Nova。

亚马逊称,AWS客户将能够使用Amazon Nova支持的生成式AI应用程序“理解视频、图表和文档,或生成视频和其他多媒体内容”,有一系列不同成本的模型可供选择。

其中,Amazon Nova Micro、Lite和Pro支持200多种语言。Amazon Nova Micro支持128K输入token的上下文长度,而Amazon Nova Lite和Pro的上下文长度可达300K token,处理视频时长可达30分钟。

“Amazon Nova Micro、Amazon Nova Lite和Amazon Nova Pro至少比Amazon Bedrock中各自智能类别中表现最好的模型便宜75%。”

此外,亚马逊还推出了两个全新模型——用于生成高质量图像的Amazon Nova Canvas和用于生成高质量视频的Amazon Nova Reel。

亚马逊通用人工智能高级副总裁Rohit Prasad透露,在亚马逊内部,约1000个生成式AI应用正在进行中。

AI代理管理员、推理检查员......

亚马逊还在AWS平台推出了一系列AI工具,帮助企业利用和掌握生成式AI技术。

比如,周三官宣的一款新云工具Bedrock Agents可用于创建和管理AI代理,这些代理可自动执行客户支持、订单处理和分析等有用任务。它包含了一个主代理,用于管理AI下属团队,提供有关其运作方式的报告并协助调整。

Garman说:

你基本上可以创建一个代理,让你成为所有其他代理的老板。

此外,亚马逊还将推出一种使用较大模型来增强较小模型能力的系统,以及一种验证聊天机器人输出是否正确的工具(用来对抗AI幻觉)。

本文来自华尔街见闻,欢迎下载APP查看更多