Jacktang 发表于 2024-11-27 07:30
单机版是48 个CPU 和8 块GPU,占的资源也挺多的
AlphaGO部署于TPU,自发布至今,TPU技术已经经历了多代的演化和升级。
第一代TPU,被应用到AlphaGo上,在2015年和李世英对战时,就是部署了48个TPU。
第二代TPU,它被引入了Google Cloud,应用在谷歌计算引擎(Google Compute Engine ,简称GCE)中,也称为Cloud TPU。配置了TPU v2的AlphaGo,仅用了4块TPUv2,便击败当时的世界围棋冠军柯洁。
第三代TPU,(2018年)性能提升到第二代的2倍。每个Pod的性能提高了8倍,且每个pod最多可含1024个芯片。
第四代TPU,2021年。采用 7nm 工艺,翻倍的 MXU 数量,以及显著增加的内存容量和带宽,实现了性能的大幅提升。引入 Sparse Core ,针对稀疏计算进行了优化,使得 TPU v4 在处理深度学习中的 Embedding 层时更加高效。3D Torus 互联方式以及 TPU v4 Pod 的构建,展示了谷歌在大规模并行计算和高效互联方面的突破。Palomar 光路开关芯片的开发,利用 MEMS 技术,进一步降低了系统延迟和功耗,同时减少了网络成本。
第五代TPU,2023年,谷歌在发布多模态大模型Gemini的同时,推出了全新的面向云端AI加速的TPU v5p ,(云张量处理单元)。
第六代TPU,2024年5月,Alphabet首席执行官桑达尔·皮查伊(Sundar Pichai)发布了第六代TPU,与 TPU v5e 相比,Trillium TPU 的能源效率高出 67% 以上。Trillium 可以在单个高带宽、低延迟 Pod 中扩展到多达 256 个 TPU。