beat365手机版官方网站:谷歌推出迄今为止最强大、最节能的人工智能芯片
作者:beat365发布时间:2025-01-21
谷歌推出迄今为止最强大、最节能的人工智能芯片
谷歌母公司 Alphabet 推出了人工智能数据中心芯片系列的最新成员:Trillium。
Trillium 代表最先进的人工智能专用硬件,由张量处理单元 (TPU) 组成。这些用于人工智能数据中心的定制芯片是 Nvidia 产品的出色替代品,为市场提供了引人注目的选择。
目前,英伟达在人工智能芯片领域占据了 80% 的市场份额,谷歌则占据了剩下的 20% 的份额。值得注意的是,谷歌并不出售这些芯片,而是通过其云计算平台出租它们。
Trillium 是其第六代 TPU,是迄今为止性能最高、最节能的 TPUbeat365中国官方网站。正如博客文章中所述,谷歌强调 Trillium TPU 与 TPU v5e 相比,每芯片的峰值计算性能提高了 4.7 倍。beat365
与 TPU v5e 相比,该公司的最新产品拥有双倍的高带宽内存 (HBM) 容量和带宽,以及双倍的芯片间互连 (ICI) 带宽。
此外,Trillium 还具有第三代 SparseCore,这是一种专门的加速器,用于处理高级排名和推荐工作负载中的超大嵌入。该博客文章还强调了以减少延迟和降低成本来训练下一波“基础模型”的能力。
据谷歌称,最新的 Trillium TPU 的能效比 TPU v5e 高出 67% 以上。此外,Trillium 能够在单个高带宽、低延迟 Pod 中扩展到多达 256 个 TPU。
该博客还提到,除了这种 Pod 级可扩展性之外,配备多片技术和钛智能处理单元 (IPU) 的 Trillium TPU 还可以扩展到数百个 Pod,连接建筑物级超级计算机中的数万个芯片,这些芯片通过每秒数拍比特的数据中心网络。
该公司通过扩大矩阵乘法单元 (MXU) 的尺寸并提高时钟速度,将每个 Trillium 芯片的计算性能提高了 4.7 倍。
该公司在一篇博客文章中表示,“Trillium TPU 将为下一波人工智能模型和代理提供动力,我们期待着帮助我们的客户获得这些先进的功能。”
这一进步将大大有利于谷歌的云计算服务和Gemini。 Deep Genomics 和德勤等依赖谷歌云服务的公司将受益于新芯片的显着提升。
Trillium TPU 对训练和服务长上下文、多模式模型的支持将使 Google DeepMind 能够比以往更快、更高效、延迟更低地训练和服务未来几代 Gemini 模型。
Trillium TPU 是 Google Cloud 人工智能超级计算机的组成部分,这是一种专为尖端人工智能工作负载而设计的超级计算架构。
谷歌 Deepmind 和谷歌研究院首席科学家 Jeff Dean表示: “Gemini 1.5 Pro 是谷歌规模最大、能力最强的 AI 模型,它是使用数万个 TPU 加速器进行训练的。”
“我们的团队对第六代 TPU 的发布感到非常兴奋,我们期待在 Gemini 模型规模上提高训练和推理的性能和效率。”