显存优化

QPO:基于量化与流水线加速的显存高效 DNN 训练 featured image

QPO:基于量化与流水线加速的显存高效 DNN 训练

面向显存高效 DNN 训练,将量化卸载与流水线预取结合,让数据传输与前后向计算重叠,缓解 CPU-GPU 通信瓶颈。

avatar
李佳琦
•