GTC ON-DEMAND

 
SEARCH SESSIONS
SEARCH SESSIONS

Search All
 
Refine Results:
 
Year(s)

SOCIAL MEDIA

EMAIL SUBSCRIPTION

 
 

GTC ON-DEMAND

Artificial Intelligence and Deep Learning
Presentation
Media
使用自动混合精度加速 PaddlePaddle 训练
Abstract:
我们将在这次演讲中介绍PaddlePaddle中的自动混合精度训练(AMP)。通过几行python代码,它就能够应用混合精度训练神经网络。混合精度训练的优势在于它不仅可以减少显存占用而且还能够充分利用Tensor Core在某些操作上对于FP16数值计算的加速能力。实际上,端到端的混合精度训练在各种模型上可以带来大约2~4倍的加速。本次演讲我们将会简要回顾混合精度训练的理论,最佳实践,然后详细介绍自动混合精度训练(AMP)在PaddlePaddle上的实现以及实验结果。
 
Topics:
Artificial Intelligence and Deep Learning
Type:
Talk
Event:
GTC China
Year:
2019
Session ID:
CN9312
Streaming:
Download:
Share: