云霞育儿网

郎博解释了下理想 Thor-U 的问题1. 基于 INT8 和 FP8 的混合精

郎博解释了下理想 Thor-U 的问题

1. 基于 INT8 和 FP8 的混合精度量化,Thor-U 的算力是 700TOPS,

2. 如果量化精度升高和降低,标称的算力可以翻倍或者砍半,

Orin-X 的 254TOPS 是 INT8 理想条件下的最高值,特斯拉 HW4.0 基于 INT8 量化,双芯片峰值大概 720TOPS ​​​