【TechWeb】12月5日消息,亚马逊云科技在2024 re:Invent全球大会上,发布了新一代AI训练芯片Amazon Trainium3。 据介绍,Trainium3是亚马逊云科技首款采用3纳米工艺制造的芯片,专为新一代前沿生成式AI工作负载的高性能需求而设计,在性能、能效和密度上树立了新标杆。搭载Trainium3的UltraServers性能预计将是Trn2 UltraServers的4倍,使客户在构建模型时能够更快迭代,并在部署时提供卓越的实时性能。首批基于Trainium3的实例预计将在2025年末上线。 另外,会上还宣布基于Amazon Trainium2的Amazon Elastic Compute Cloud(Amazon EC2)Trn2实例正式可用,并推出全新的Amazon EC2 Trn2 UltraServers,让用户以优越的性价比训练和部署最新的人工智能模型,以及未来的大语言模型(LLM)和基础模型(FM)。 与当前基于GPU的EC2 P5e和P5en实例相比,Amazon EC2 Trn2实例的性价比提升30-40%。它配备16个Trainium2芯片,可提供高达20.8 Petaflops浮点算力的性能。 Amazon EC2 Trn2 UltraServers服务器机型配备64个相互连接的Trainium2芯片,采用NeuronLink超速互连技术,可提供高达83.2 Petaflops浮点算力,其计算、内存和网络能力是单一实例的四倍,能够支持训练和部署超大规模的模型。 上周,亚马逊宣布向Anthropic追加第二笔40亿美元投资,并加深在业务上的合作。 2024 re:Invent全球大会上透露,作为Anthropic与亚马逊云科技深化合作的一部分,Anthropic已开始优化Claude模型,以便在亚马逊Trainium2上运行。 同时,亚马逊云科技正在与Anthropic共同构建一个名为Project Rainier的 EC2 UltraCluster计算集群,该集群由Trn2 UltraServers组成,能够在数十万个Trainium2芯片之间通过第三代低延迟的PB级EFA网络进行分布式模型训练——其运算能力比Anthropic当前一代领先AI模型训练所需算力高出5倍以上。该项目完成后,预计将成为全球最大可用的AI计算集群,供Anthropic构建和部署未来模型使用。(果青)
发表评论
2024-12-06 18:14:14回复
2024-12-06 21:08:53回复
2024-12-06 15:01:28回复
2024-12-06 16:31:59回复
2024-12-06 20:17:10回复
2024-12-06 13:09:26回复
2024-12-06 12:55:21回复
2024-12-06 19:06:50回复
2024-12-06 11:01:55回复
2024-12-06 10:30:05回复
2024-12-06 21:25:18回复
2024-12-06 21:15:45回复
2024-12-06 21:54:00回复
2024-12-06 14:39:32回复