当前位置:首页 > 芯闻号 > 充电吧
[导读]Google宣布基于NVIDIA Ampere A100 Tensor Core GPU在Google Compute Engine上引入了Accelerator-Optimized VM(A2)系列

Google宣布基于NVIDIA Ampere A100 Tensor Core GPU在Google Compute Engine上引入了Accelerator-Optimized VM(A2)系列。A2在单个VM中最多可提供16个GPU,并且是公共云中第一个基于A100的产品。

Google设计了A2虚拟机系列,以提高其客户的培训和推理计算性能。A2具有基于新NVIDIA Ampere架构的NVIDIA A-100 Tensor Core图形处理单元。根据博客文章,A-100的计算性能是上一代GPU的20倍,并配备40 GB的高性能HBM2 GPU内存。此外,A2 VM配备多达96个Intel Cascade Lake vCPU,可选的本地SSD,用于需要更快地将数据馈送到GPU和高达100 Gbps网络的工作负载。

当客户的工作负载要求更高时,A2提供带有16个A100 GPU的a2-megagpu-16g实例,其中包括总共640 GB的GPU内存,1.3 TB的系统内存以及通过NVSwitch连接的所有组件,最高可提供聚合带宽为9.6TB / s。

请注意,A2还提供了较小的配置,使客户可以满足他们对GPU计算能力的需求。客户可以选择五种配置,从一到16个GPU,具有两种不同的CPU和网络对GPU的比率-由于Ampere的多实例组(MIG)功能,每个GPU最多可划分为七个GPU实例。。

NVIDIA加速计算部门总经理兼副总裁Ian Buck在最近的公司博客中写道,A-100在GCP上的可用性:

在云数据中心中,A100可以支持广泛的计算密集型应用程序,包括AI培训和推理,数据分析,科学计算,基因组学,边缘视频分析,5G服务等。

借助A2系列,虚拟机Google进一步扩展了预定义和自定义虚拟机的产品范围,从计算到加速器优化的机器。此外,该公司将继续与其他云竞争厂商如微软,该公司最近发布了新的通用和各种内存优化VM家庭英特尔芯片组(AVX-512) -和AWS,它最近发布了基于其EC2 INF1实例Inferentia筹码。这些新的VM类型中有许多是针对具有AI和机器学习工作负载的客户的。

Constellation Research Inc.首席分析师兼副总裁说:

云领导力之战主要是在AI之战中进行的,而这就是使企业的AI负载吸引到每个供应商的云中。中间是诸如NVidia之类的平台供应商,它们提供跨云平台和内部部署选项。因此,随着Google将最新的Nvidia平台引入其Google Cloud,它使CxO可以更轻松地将AI工作负载跨内部和(Google)云迁移。

他还说:

随着Google成为排名第三的供应商,它必须在吸引负载方面更加开放和更具创造力-这是Google战略的另一个例子。相比之下,更大的AWS和Azure战略仍将转向AI负载的云专有计算架构。CxO必须意识到锁定对于大多数技术供应商而言仍然是理想的结果,并且需要权衡便利性,速度和锁定之间的风险。

目前,A2 VM系列处于Alpha状态,客户可以通过注册来请求访问权限。此外,谷歌表示,公众可获得性和价格信息将在今年晚些时候发布。最后,该公司还宣布即将为Nvidia A100提供对Google Kubernetes Engine,Cloud AI Platform和其他服务的支持。

本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除。
换一批
延伸阅读

北京——2024年4月25日 我们的客户选择亚马逊云科技运行他们的关键应用程序和最敏感的数据。每天,世界上发展最快的初创公司、最大的企业和最值得信赖的政府机构都选择亚马逊云科技作为技术基础设施平台。他们之所以选择亚马逊云...

关键字: GPU 计算 生成式AI

据报道,日本电信巨头软银集团将在未来两年投资1500亿日元(9.6亿美元)升级其计算设施,该计划包括大量采购英伟达GPU。

关键字: 软银 英伟达 GPU AI

4月24日消息,特斯拉CEO马斯克在最近的财报电话会议上透露,特斯拉的Optimus人形机器人预计将在今年底前具备执行“有用的”工厂任务的能力,并有望在2025年底前推向市场。这一消息引发了业界和公众的广泛关注。

关键字: 马斯克 AI 特斯拉 GPU

业内消息,上周谷歌公司解雇了28名员工,原因是这些员工在谷歌纽约和加州森尼维尔的办公室静坐10小时,抗议谷歌与以色列签订的价值12亿美元的云计算合同。

关键字: 云计算 谷歌

近日媒体Business Insider透露称,微软目前正在疯狂囤货GPU,目标在2024年12月前达到180万片。微软本次采购的 GPU 主要来自英伟达公司,不过微软也计划采购 AMD 等其它公司的 GPU 进行扩充。

关键字: 微软 GPU

Apr. 16, 2024 ---- NVIDIA新一代平台Blackwell,包含B系列GPU及整合NVIDIA自家Grace Arm CPU的GB200等。TrendForce集邦咨询指出,GB200的前一代为GH2...

关键字: CPU GPU

联发科官方近日宣布,天玑开发者大会(MDDC 2024)将于5月7日在深圳隆重开幕。此次大会以“AI予万物”为核心议题,旨在汇聚全球开发者智慧,共同探讨AI技术在多元领域的应用前景与发展动向。届时,众多行业领袖与资深专家...

关键字: 生成式AI GPU 天玑

4月9日消息,据媒体报道,马斯克最近表示,首艘无人驾驶的星舰将会在五年内登陆火星,或将在接下来的七年内实现第一批人类登陆火星。

关键字: 马斯克 AI 特斯拉 GPU

随着信息技术的飞速发展,云计算作为一种新兴的计算模式,正在逐步改变着传统的数据处理和应用方式。云计算通过整合大量分布式计算资源,为用户提供高效、灵活、安全的数据存储和计算服务。在当前数字化、网络化、智能化的时代背景下,云...

关键字: 云计算 数据处理 智能化

Arm Neoverse 旨在为从云到边缘的全场景基础设施用例提供高性能和出色能效。针对需要更高性能的工作负载和用例,Arm 推出了 Neoverse V 系列。其中,Neoverse V2 核心已被行业先行者广泛部署于...

关键字: 云计算 人工智能 CPU
关闭
关闭