GTC ON-DEMAND

 
SEARCH SESSIONS
SEARCH SESSIONS

Search All
 
Refine Results:
 
Year(s)

SOCIAL MEDIA

EMAIL SUBSCRIPTION

 
 

GTC ON-DEMAND

Artificial Intelligence and Deep Learning
Presentation
Media
利用 TensorRT 自由搭建高性能推理模型
Abstract:
TensorRT 是 NVIDIA 推出的用于加速深度学习推理的开发工具。现已有大量的线上模型在它上面运行,实现了相比于原生框架最高近 10 倍的加速比,极大地提高了 GPU 的利用效率,降低了 GPU 的使用成本。 不过,由于许多模型无法被原生框架彻底地转换到 TensorRT 上,需要手工搭建,所涉及的学习和时间成本让一些开发者望而却步,遗憾地失去了加速程序的机会。 鉴于此,本报告试图通过一个典型的深度学习模型作为例子,深入讲解利用 TensorRT 自由搭建各种模型的实用技巧。在理解本报告的基础上,开发者可以快速上手 TensorRT,独立地利用它加速自己的模型,获得丰厚的收益。 本报告的预备知识为对深度学习和编程语言的基本了解,难度较低,希望能给深度学习开发者带来帮助。
 
Topics:
Artificial Intelligence and Deep Learning
Type:
Talk
Event:
GTC China
Year:
2019
Session ID:
CN9577
Streaming:
Download:
Share: