GTC ON-DEMAND

 
SEARCH SESSIONS
SEARCH SESSIONS

Search All
 
Refine Results:
 
Year(s)

SOCIAL MEDIA

EMAIL SUBSCRIPTION

 
 

GTC ON-DEMAND

Artificial Intelligence and Deep Learning
Presentation
Media
基于 GPU 的大规模语言模型加速
Abstract:
本次演讲主要是想给大家分享一下腾讯云自然语言处理产品团队在深度学习方面的实践经验,特别是在GPU上做深度学习的经验,包括模型的训练和推理,以及基于GPU的加速实践。首先会简单介绍一下腾讯云自然语言处理的产品矩阵,引出我们产品中与深度学习、GPU使用深度结合的一些点,让大家对腾讯云自然语言处理 ON GPU有一个大概的了解。接下来会以AutoNLP为例子,向大家介绍我们目前是如何基于Bert来为用户提供NLP的PaaS服务,包括:Bert的应用方式;Bert FineTune在CPU和GPU上的性能比对,以及训练的加速;Bert推理在CPU和GPU上的性能比对,以及推理的加速;GPU资源的调度及管理;最后会跟大家分享一下我们AutoNLP的后续规划,包含Model Zoo、AutoML、蒸馏等等
 
Topics:
Artificial Intelligence and Deep Learning
Type:
Talk
Event:
GTC China
Year:
2019
Session ID:
CN9555
Streaming:
Download:
Share: