KiCad 华秋发行版 new
供应链、设计、制造，一体成就未来
华秋PCB
高可靠多层板制造商
华秋SMT
高可靠一站式PCBA智造商
华秋商城
自营现货电子元器件商城
PCB Layout
高多层、高密度产品设计
钢网制造
专注高品质钢网制造
BOM配单
专业的一站式采购解决方案
华秋DFM
一键分析设计隐患
华秋认证
认证检测无可置疑
发资料
发帖
提问
发视频
扫码添加小助手
加入工程师交流群
谷歌表示A3是专为训练和运行现时的生成式AI和大语言模型而打造的，可提供26 exaFlops的AI性能。
A3 GPU VM 专门为当今的 ML 工作负载提供最高性能的训练，配备现代 CPU、改进的主机内存、下一代英伟达 GPU 和主要网络升级。以下是 A3 的主要特点：
8 个 H100 GPU，利用英伟达的 Hopper 架构，提供 3 倍的计算吞吐量
通过英伟达 NVSwitch 和 NVLink 4.0，A3 的 8 个 GPU 之间的对分带宽为 3.6 TB/s
GPU 的数量已经成为云提供商推广其 AI 计算服务的重要名片。
此外，许多云提供商都在部署 H100 GPU。英伟达 H100 上的训练模型比上一代 A100 GPU 更快、更便宜。AI服务公司 MosaicML 进行的一项研究发现，H100 在其 70 亿参数的 MosaicGPT 大型语言模型上比 A100 的成本效益高 30%，速度快 3 倍。
英伟达在 3 月份推出了自己的 DGX 云服务，与租用上一代 A100 GPU 相比，该服务价格昂贵。
｜搭载8颗H100 Hopper GPU的英伟达DGX H100系统底板
谷歌一直在大力宣传其TPU v4 AI芯片，这些芯片被用于运行带有 LLM 的内部AI应用程序，例如谷歌的 Bard 产品。（点击阅读：对打英伟达A100，谷歌公布TPU v4技术细节）
｜谷歌TPU v4
谷歌表示，A3 超算是对现有配备英伟达A100 GPU的A2虚拟机提供的计算资源的重大升级。谷歌正在将所有分布在不同地理位置的 A3 计算实例汇集到一台超级计算机中。
相比A2，谷歌的 A3 超级计算机用途广泛，可以针对广泛的 AI 应用程序和 LLM 进行调整。“鉴于这些工作负载的高要求，一刀切的方法是不够的，需要专为 AI 构建的基础设施。”客户可以通过 A3 虚拟机运行 AI 应用程序，并通过 Vertex AI、Google Kubernetes Engine 和 Google Compute Engine 服务使用谷歌的 AI 开发和管理服务。
审核编辑 ：李倩
浏览量
浏览量
浏览量
浏览量
原文标题：拥有 26000 个 GPU的“A3”超级计算机，能为谷歌赢下AI反攻战吗？
扫码添加小助手
加入工程师交流群
下载发烧友APP
电子发烧友观察
长沙市望城经济技术开发区航空路6号手机智能终端产业园2号厂房3层（0731-88081133）