图表22一个cube(rack)由64个TPU节点组成 原图定位 系统使用的光模块数量为 TPU 数量的 1.5 倍。一个 Rack 即为一个 4×4×4 的 Cube 立方体,由 64 个 TPUv4 芯片组成。立方体内部的连接较为简单,节点主要通过铜缆进行连接,组成 3D mesh 拓扑。立方体外部连接较复杂,共有三个维度 6 个面,每个面 16 个节点,每个节点都需与 OCS 交换机连接,即每个面都会与一组 16 台 OCS 交换机连接。同一个维度相对的两面(上下、左右、前后)都需要连接到同一组的 OCS 交换机连接,形成 3D Torus 拓扑。光路系统的成本控制得很低,在整个 TPU v4 超级计算机成本中占 5%以下。可以算出每台 TPUv4 超级计算机中,相关器件的用量: