Amazon.com公司打算向Anthropic PBC投入至多250亿美元的资金,同时还会为该公司提供大规模的额外计算资源支持。
今天宣布的合作,是在双方已有三年合作基础上展开的。此前,亚马逊曾搭建了一个名为Project Rainier的AI集群,专门用于承载Anthropic的内部工作负载,同时还向这家人工智能开发企业投资了80亿美元。
这次新拓展的合作关系将让亚马逊为Anthropic提供额外50亿美元的资金支持。这家兼具云和零售业务的巨头还计划在未明确具体时间的未来,进一步投资至多200亿美元。作为合作的一部分,Anthropic承诺在未来十年内,向亚马逊网络服务投入超过1000亿美元。此外,该合作还将为AI开发者提供最高达5吉瓦的计算能力。
Anthropic 今日透露,他们已采用这家云巨头超 100 万颗定制的 AWS Trainium2 芯片。其中不少处理器部署于 AWS 为该公司打造的 Project Rainier 集群里。这个集群是全球同类型中规模最大的集群之一,于去年投入使用,且分布在多个数据中心。
Anthropic会在六月底前获取若干额外Trainium2芯片的使用权限。今年下半年,AWS将扩充更多由Trainium2以及其更新、性能更出色的Trainium3芯片所支持的计算能力。Anthropic称,这次升级将为其带来近1吉瓦的计算能力。
Trainium3 于12月首次亮相。它包含八个核心,合计提供Tranium2芯片两倍的性能。开发者可以选择将多个核心合并为一个大型逻辑核心,称为LNC,从而加快部分工作负载。
AWS在其内部设计的服务器上部署了Trainium3,该加速器在处理MXFP8数据时,浮点运算能力最高可达362千万亿次。每个系统配备的144个加速器通过名为NeuronSwitch-v1的定制交换机进行数据交互,这款交换机的带宽是AWS上一代网络设备的两倍。
新公布的合作内容里,还涵盖了亚马逊旗下部门即将推出的Trainium4芯片。依据AWS给出的数据,搭载这款处理器的服务器在处理FP4数据时,浮点运算(exaflops)性能将提升超2倍。Anthropic也将获得使用更先进AI芯片的机会,这款芯片预计会在Trainium4上线后接替它。
Anthropic将采用AI加速器与AWS Graviton中央处理器相结合的方式。该系列的最新芯片配备96个核心,每个核心都带有2兆字节的L2缓存。Anthropic打算租用规模相当于数千万Graviton核心的CPU容量。
在市场推广领域,两家公司打算把“完整的Anthropic原生Claude主机”引入AWS平台。此次集成能让客户借助云服务提供商的计费、监控与账户管理功能来使用这一系列AI模型,从而省去重复的管理步骤。
Anthropic联合创始人兼首席执行官Dario Amodei表示:“我们与亚马逊的合作将使我们能够继续推进人工智能研究,同时将Claude交付给客户,包括超过10万个AWS上的建筑。”