12月3日音讯,亚马逊旗下云核算部分 Amazon Web Services(AWS)表明,将在其后续一代人工智能专用芯片中选用英伟达要害互连技能,以逐渐进步 AI 核算根底设施才能。
AWS称,未来的 Trainium4 芯片将运用英伟达的“NVLink Fusion”技能,详细发布时刻没有发布。NVLink 技能可进步不同芯片间的数据传输速度,是英伟达核心技能之一。该音讯由两边在 AWS 一年一度的云核算大会 re:Invent 上发布。本次大会在美国拉斯维加斯举办,招引约 6 万人参与。
英伟达近年来推进更多芯片企业选用其 NVLink 技能,英特尔、高通已参加,本次 AWS 的参加意味着该生态规划逐渐扩展。NVLink 将用于构建更大规划的 AI 服务器集群,使服务器之间能更高效地通讯和协同运作。这关于练习需求衔接数千台设备的大型 AI 模型至关重要。作为协作的一部分,AWS 将向客户供给名为 “AI Factories” 的专用 AI 根底设施,用于在本地数据中心内布置核算集群。
亚马逊一起宣告推出根据 Trainium3 芯片的新服务器,并于发布当天开端供给运用。每台服务器包括 144 颗芯片,全体算力较上一代进步四倍以上,一起功耗下降约 40%。AWS 核算与机器学习服务副总裁 Dave Brown 表明,公司将经过价格与功能组合来进步竞赛力,但未发布详细算力或功耗数据。
AWS 进一步发布新版本的自研 AI 模型 Nova。Nova 2 在响应速度方面有所进步,支撑文本、图画、语音和视频多模态输入输出;另一款名为 Sonic 的模型支撑语音到语音的交互方式。虽然 Nova 系列在市场上与 OpenAI、Anthropic 和 Google 的产品竞赛压力较大,AWS 在最近一个季度中仍完成了 20% 的云业务收入增加,大多数来源于云核算和 AI 根底设施需求。
此外,AWS 推出“Nova Forge”服务,使企业可根据本身数据构建专属模型,一起保存根底模型的骨干才能。(AIPress编译)