[seminar] GPU 메모리 스페이스의 특성과 UVM의 활용

Host: 
유승주 교수
Date: 
Friday, December 9th 2022, 11:00am - Friday, December 9th 2022, 12:30pm
Location: 
302동 209호

Summary

GPU 사용에 있어서 UVM(Unified Virtual Memory)의 등장은 많은 프로그래머들을 CPU와 GPU간 또는 복수의 GPU 간 메모리 관리의 부담으로부터 해방시켰음. UVM의 사용은 유저들에게 remote, local 데이터를 단순한 하나의 포인터로써 볼 수 있는 coherent한 view를 제공하였으며, GPU memory oversubscription을 통해 GPU의 물리 메모리보다 큰 working set을 가진 프로그램의 실행을 가능케 함. 하지만, UVM의 사용은 종종 성능 저하를 동반하는데, 이는 주로 on-demand migration 기법으로 인해 GPU의 커널이 필요로 하는 데이터가 GPU 메모리로 완전히 migration 될 때 까지 stall해야 했기 때문임. 이를 해결하기 위해 다양한 종류의 페이지prefetcher들이 제안되었으나, 이들은 상황에 따라 사용되지 않을 페이지들을 GPU 메모리로 미리 옮겨 놓는다는 특성으로 인해 memory oversubscription 상황에서의 성능 저하를 초래함. 본 발표에서는 GPU UVM의 특성과 위와 같은 문제점 지적 및 그를 위한 해결책의 제공을 다루고자 함.

Speaker Bio

ㆍ Professor, School of Electrical and Electronic Engineering, Yonsei University, Seoul, Korea (2017. 09 ~ Present)
연세대학교 공과대학 전기전자공학부 정교수

ㆍ Assistant/Associate Professor, School of Electrical & Electronic Engineering Yonsei University, Seoul, Korea (2007. 09 ~ 2017.08)
연세대학교 공과대학 전기전자공학부 조교수/부교수

ㆍ Assistant Professor, ECE, California State University, Northridge, CA, USA (2004. 08 ~ 2007. 08)

ㆍ ARM Inc. Contract Software Engineer, Irvine, California, USA (2006 ~ 2007)

ㆍ Assistant Specialist (Post-Doc.), University of California, Irvine, CA, USA (2004)

ㆍ Intern, Apple Computer Inc., Cupertino, California (2003 ~ 2004)