
【TechWeb】12月5日音问,亚马逊云科技在2024 re:Invent民众大会上,发布了新一代AI历练芯片Amazon Trainium3。
据先容,Trainium3是亚马逊云科技首款吸收3纳米工艺制造的芯片,专为新一代前沿生成式AI责任负载的高性能需求而缱绻,在性能、能效和密度上斥地了新标杆。搭载Trainium3的UltraServers性能展望将是Trn2 UltraServers的4倍,使客户在构建模子时巧合更快迭代,并在部署时提供超卓的及时性能。首批基于Trainium3的实例展望将在2025年末上线。
另外,会上还晓示基于Amazon Trainium2的Amazon Elastic Compute Cloud(Amazon EC2)Trn2实例庄重可用,并推出全新的Amazon EC2 Trn2 UltraServers,让用户以优厚的性价比历练和部署最新的东说念主工智能模子,以及将来的假话语模子(LLM)和基础模子(FM)。
与现时基于GPU的EC2 P5e和P5en实例比拟,Amazon EC2 Trn2实例的性价比擢升30-40%。它配备16个Trainium2芯片,可提供高达20.8 Petaflops浮点算力的性能。
Amazon EC2 Trn2 UltraServers办事器机型配备64个互相联络的Trainium2芯片,吸收NeuronLink超速互连技艺,可提供高达83.2 Petaflops浮点算力,其酌量、内存和积存才能是单一实例的四倍,巧合赞助历练和部署超大边界的模子。
上周,亚马逊晓示向Anthropic追加第二笔40亿好意思元投资,并加深在业务上的合营。
2024 re:Invent民众大会上泄露,手脚Anthropic与亚马逊云科技深远合营的一部分,Anthropic已开动优化Claude模子,以便在亚马逊Trainium2上运行。
同期,亚马逊云科技正在与Anthropic共同构建一个名为Project Rainier的 EC2 UltraCluster酌量集群,该集群由Trn2 UltraServers构成体育游戏app平台,巧合在数十万个Trainium2芯片之间通过第三代低蔓延的PB级EFA积存进行漫衍式模子历练——其运算才能比Anthropic现时一代最初AI模子历练所需算力朝上5倍以上。该风景完成后,展望将成为民众最大可用的AI酌量集群,供Anthropic构建和部署将来模子使用。(果青)
声明:新浪网独家稿件,未经授权不容转载。 -->