谷歌宣布,推出第七代 TPU"Ironwood",旨在提升人工智能(AI)应用程序的性能。谷歌表示,新款 AI 芯片专注于推理计算,即聊天机器人问答和其他 AI 输出所需的快速计算,谷歌花了 10 年时间及数十亿美元来开发 TPU,暂时只提供给其内部工程师或者通过谷歌的云服务使用。
Google Cloud 副总裁 Amin Vahdat 表示:"Ironwood 是谷歌迄今为止功能最强大、性能最强、最节能的 TPU,专为大规模支持思考和推理 AI 模型而设计。"
第七代 TPU"Ironwood" 的峰值算力为 4614 TeraFLOPS(第六代 TPU 芯片 "Trillium" 的 5 倍),内存高达 192GB("Trillium" 的 6 倍);HBM 带宽达到 7.2 Tbps("Trillium" 的 4.5 倍);每瓦峰值算力为 29.3 TeraFLOPS("Trillium" 的 2 倍);增强的芯片间互连 ( ICI ) 带宽,双向增至 1.2 Tbps("Trillium" 的 1.5 倍)。此外,"Ironwood" 还搭载了增强版专用核心 SparseCore,用于处理 " 高级排序 " 和 " 推荐 " 任务中常见的数据类型,通过最小化芯片内数据移动和延迟来实现节能。
Google Cloud 为客户提供了 256 芯片和 9216 芯片两种配置选择,后者的 AI 算力达到了 42.5 ExaFLOPS。"Ironwood" 芯片将作为 Google AI 超级计算机架构的核心组件,通过软硬件协同优化,将有力推动生成式 AI 向更复杂场景演进。
登录后才可以发布评论哦
打开小程序可以发布评论哦