NVIDIA에서 전 세계에 있는 솔루션 아키텍처와 엔지니어링팀을 이끌고 있는 Marc Hamilton은 글로벌 고객과 파트너에게 인공지능, 딥 러닝, 프로페셔널 비주얼라이제이션, 그리고 고성능 컴퓨팅을 위한 세계 최고의 엔드 투 앤드(End-to-end) 솔루션을 제공하고 있습니다. 이번 키노트에서 가장 최신의 AI 기술 트렌드와 현재 NVIDIA가 어떻게 다양한 산업군에 걸쳐 AI 혁신을 가져오고 있는지 소개합니다 ...Read More

Data Science를 위한 GPU 가속라이브러리 및 활용사례 소개

• cuDF (Data preparation), cuML (Machine Learning), cuGRAPH (Analytics)

AI / ML / DL 환경에서 Edge 부터 Core, Cloud에 이르기까지 data의 관리를 손쉽게 해줄 수 있는 data transfer technology 를 소개합니다.

We will look at existing technologies, trends, and differentiated technology points in the GPU database and find solutions to the problems that may arise in the accelerated computing environment through solutions and introduction examples using SQream DB and IBM AC922 GPU server. Here is a solution for.(데이터 베이스 기술은 계속 변화하고 있고 그러한 변화 가운데 하나가 GPU 로 가속되는 데이터베이스 입니다. GPU 데이터 베이스의 기존 기술과 트렌드, 차별화된 기술포인트를 살펴보고 가속화 컴퓨팅 환경에서 발생할 수 있는 문제점을 SQream DB 와 IBM AC922 GPU 서버를 사용하여 얻게 되는 해결법과 도입 사례를 통해 기업에서 고민하고 있는 여러 포인트에 대한 해결점을 소개합니다.) ...Read More

Data is the fuel that powers AI outcomes, and fast-moving industries embracing digital transformation need massive data performance at scale, coupled with the world’s best accelerated CPU/GPU infrastructure. Specifically focusing on the automotive sector, with requirements for Autonomous Driving development, Intelligent Connected Vehicles and Smart Manufacturing, this session will focus on real world examples of how Dell Technologies is partnering with NVIDIA to help customers bring innovation and quality to market soonest. ...Read More

It is said the most important ingredient in the new world of AI is data. However, for data to be effective in supporting AI, it must be abundant and accessed rapidly. Hear from Pure Storage about simplifying the infrastructure layer to allow data scientists to focus on their most important tasks. ...Read More

본 세션에서는 학습된 Deep Learning 모델을 이용하여 Inference 서비스를 구축할 때 효과적으로 이용할 수 있는 NVIDIA TensorRT Inference Server 애플리케이션에 대해 설명합니다. NVIDIA TensorRT Inference Server는 Caffe2, Tensorflow, TensorRT, ONNX 등 다양한 framework 기반의 inference 기능을 GPU 뿐만 아니라 CPU 기반하에서도 서비스 할 수 있습니다. 그리고 Inference 서비스 개발 시 GPU 사용률 극대화를 위한 multiple instance 기반의 concurrent execution 환경을 제공하며, client request에 대해 다양한 scheduling algorithm을 통해 throughput 뿐만 아니라 latency도 보장 가능한 inference service를 구축할 수 있습니다. 그리고 RNN 기반의 stateful inference 서비스 기능도 최근에 업데이트 되었으며 custom backend 모듈 연동 기능을 통해 다양한 inference engine 연동도 가능합니다. ...Read More

본 세션에서는 학습된 DeeNVIDIA는 Deep Learning의 학습부터 추론까지 최적의 End-to-End 솔루션을 자랑합니다. 이번시간에는 NVIDIA의 Inference 기술에 대하여 살펴보고 NVIDIA TensorRT를 주제로 Why, What, How에 대하여 알아보는 시간을 갖도록 하겠습니다. ...Read More

DGX SATURNV는 NVIDIA 내부에서 사용하는 딥러닝 학습용 인프라로, 그 구조는 DGX POD 백서를 통해서 아키텍쳐가 공개되었고, DeepOps라는 이름으로 구축 방법론이 공개되었습니다. 2018년 AI Conference에서는 GAN 모델과 Tacotron2, WaveGlow 모델의 MultiGPU를 활용한 학습 성능개선 방법론을 살펴보았습니다. 본 발표에서는 DGX-2 시스템을 활용하여, 엔비디아에서 제안한 음성인식 모델인 Jasper Model과 BERT 기반의 언어모델을 기반으로 엔비디아에서 제안한 Megatron-LM 등의 다양한 모델의 최적 학습 방법론에 대해서 살펴보겠습니다. ...Read More

• Simulate real world conditions, including sensors, traffic, vehicle dynamics, and scenarios in a virtual world to validate and verify AV algorithms
• Test and validate AV algorithms with software & hardware in the loop.

...Read More

본 세션에서는 Nsight Compute를 통해 Deep Learning에서의 병목현상을 파악하고 End-to-End Deep Learning 최적화를 위해 profiling 툴을 어떻게 활용할 수 있는지에 대해 소개합니다.

Deep Learning 학습에 있어서 GPU의 사용으로 획기적인 성능 향상이 이루어 졌습니다. 다만, 아직도 end-to-end pipeline 관점에서 많은 작업들이 CPU에서 이루어지고 있고, 이로 인해서 전체적인 학습 속도의 향상에 많은 bottleneck이 존재하는 것이 현실입니다. 특히 image augmentation 작업이 대표적인 CPU bottleneck이 발생하는 부분인데, NVIDIA의 DALI를 통해서 image augmentation을 GPU에서 효과적으로 수행하여 end-to-end pipeline의 GPU 가속화하는 방안을 설명하도록 하겠습니다. ...Read More

Tensor Core는 더욱 빠른 딥러닝 가속을 위해 CUDA Core와는 함께 NVIDIA GPU에 포함되어 있는 logic입니다. 이를 쉽게 이용할 수 있도록 AMP(Automatic Mixed Precision) 기술과 동작 원리를 소개하고 예제를 바탕으로 이를 잘 활용하는 방법을 알려드립니다. ...Read More

Learn our solutions and experiences for scaling up and increasing utilization of GPU resources on DGX and cloud platforms. Our solution, Backend.AI, is the GPU-first framework to host machine learning workloads and fully integrates with NGC. We will describe how it supports diverse-sized computations using both aggregation of multiple GPUs and fractional scaling of GPUs, and how it reduces modelling time for data scientists through a public competition using the DGX platform. ...Read More

Visual recognition is one of the most active and hot area owing to deep learning. Many papers, public dataset and open codes are open to anyone in that area. However it needs so many other efforts to apply visual recognition technology to real world domain services. SK Telecom has been developing it to enrich many existing services like smart display NUGU, T map and so on. In this talk such efforts beyond open sources will be shared. ...Read More

자연어 처리 분야 Question Answering System 연구 트렌드와, 자연어 처리 기술을 Signal Processing 분야에 확장 적용한 (multimodal speech emotion recognition) 연구 결과를 소개합니다.

SKT NUGU 서비스 플랫폼에서 서빙되고 있는 SKT tVoice TTS 기술에 대하여 말씀드립니다. 특히, 최근 딥러닝 기술을 이용한 뉴럴 인코더 및 뉴럴 보코더를 이용한 TTS 기술의 연구개발 및 서비스 적용 사례 등에 대하여 말씀드립니다. ...Read More

이번의 주제는 한국전력 관련 일을 포함하고 알체라의 업무들을 언급할 예정입니다. Utility Industry 에서 비정상상황을 감지하는 것들에 대한 기술을 말씀드리고, 학습데이터에 대한 AI 기술 활용 및 Graphics 기술 활용 등에 대해서 언급할 예정입니다. ...Read More

본 발표에서는 딥러닝 기반의 OCR, 음성합성, 음성인식, 대화모델 등 네이버 클로바의 AI B2B 핵심 기술을 공개된 논문 중심으로 모델 구조와 데모를 통해 공유합니다. 그리고 차별화된 AI 기술개발을 위한 다양한 연구사례와 이를 가능케하는 네이버 Clova 의 연구플랫폼인 NSML에 대해서도 공유합니다. ...Read More

삼성SDS의 Deep Learning 개발 Platform인 Brightics Deep Learning의 Auto-Labeling, Model 추천 등)과 분산학습, 추론가속 기능을 개발하게 된 배경과 간략한 동작 원리를 소개드리겠습니다.

Private GPU Cloud 구축을 통해 AI 개발 생산성을 향상시키고, 전사 AI Infra 투자비용을 절감시킨 사례를 소개합니다.

Millions of creative and technical professionals accelerate their workflows leveraging the NVIDIA Quadro RTX platform -- the world’s preeminent visual computing platform. This proven and trusted GPU computing platform is used by engineers to produce the most compelling new automotive designs or even the chairs you sit on, is also enabling artists to create photorealistic imagery, by providing the computation required to allow light to bounce off surfaces and look just as they would in real life via real-time ray tracing. This computing platform also enables AI-enhanced graphics, video and image processing to speed creative workflows and tensor cores to accelerate deep learning inference workloads; and it’s leveraged by data scientists to maximize productivity, reduce time to insight and lower project costs. Because NVIDIA Quadro RTX is available on a desktop or mobile device, in the data center with Quadro Virtual Data Center Workstation (Quadro vDWS) software, or in the public cloud with Quadro Virtual Workstations -- it can be used to accelerate any application, from anywhere. And as the modern digital workplace becomes more graphics intensive, GPU acceleration can also be used to provide a native-PC user experience to meet the growing needs of virtualized office productivity applications with NVIDIA GRID. ...Read More

Deep Learning(DL)은 super-resolution, frame interpolation, denoising 등의 화질 향상 기술에 비약적인 성능 증가를 가져왔습니다. 이 강연에서는 DL의 발전이 앞으로의 비디오 스트리밍에 어떠한 변화를 가져올 수 있을지에 대해 최신 연구 사례를 들어 소개합니다. ...Read More

This talk was designed to illustrate how having CUDA knowledge can help DL developers understand and tune their deep learning applications. We explain how to implement Tensorflow custom operations to utilize GPU more efficiently in running DL workloads, esp. BERT Inference for SQuAD. We also deliver the key insights on why the techniques introduced here can achieve better performance by discerning the profiling result. ...Read More

The modern HPC and AI center is moving from CPU centric to data centric. In CPU/GPU computing + In Network computing + In Storage computing become the new architecture to provide the best performance and price in HPC and AI. Mellanox SHARP and RDMA are 2 of key technologies of In-Network computing, can significantly improve the group communication and P2P communication performance without consuming CPU resource. The integration between RDMA and GPU P2P communication had been used in all main AI frameworks, the integration between SHARP and NCCL will bring AI performance to new stage. ...Read More

INSPUR is a leading cloud computing and AI computing data center infrastructure provider WW Top 3 server vendor according to Gartner and IDC AI full-stack solution provider Design GPU Systems for versatile scenarios

본 세션에서는 NVIDIA DeepStream SDK를 사용하여 AI 기반 비디오 분석 솔루션 구축 방법과 Transfer learning Toolkit에 대해 소개합니다. Transfer Learning부터 실제 비디오 분석 솔루션 구축에 이르기까지 실제 예시를 통해 설명합니다. ...Read More

Computer Vision, Video Surveillance, Autonomous Driving (자율 주행차), Predictive Maintenance (예지 정비) 주제로 HPE가 구축한 사례를 소개합니다.