이기종 클러스터 환경의 딥러닝 응용을 위한 GPU 공유 기법 분석 (An Analysis of GPU Sharing Methods for Deep Learning Applications in a Heterogeneous Cluster Environment)

서지정보

· 발행기관 : 한국정보과학회
· 수록지 정보 : 정보과학회 컴퓨팅의 실제 논문지 / 31권 / 1호 / 25 ~ 33페이지
· 저자명 : 하지원, 김서영, 테오도라 아두푸, 엄현상, 김윤희

초록

이기종 GPU 클러스터 환경에서 딥러닝 계산 작업들을 실행할 때 발생할 수 있는 활용률 저하 문제를 GPU 공유 기술을 통해 해결하고 최적의 성능을 내기 위한 연구가 진행 중이다. 그러나 time-slicing, Multi-Process Service(MPS), Multi-Instance GPU(MIG) 공유 기술을 딥러닝 응용의 특성에 맞춰 적절히 사용하는 연구는 제시되지 않았다. 본 논문은 딥러닝 모델 및 파라미터에 따른 작업의 실행 규모, 자원 민감도, 자원 활용 특징을 분석하여 time-slicing, MPS, MIG 공유 기술에 대한 최적의 작업 배치 기준을 제안한다. 서로 다른 공유 기술을 지원하는 이기종 GPU 클러스터 환경에서 최적의 작업 배치를 수행하고 실험을 통해 실행 시간과 처리량이 향상됨을 보였다.

영어초록

GPU sharing technologies are being implemented to address the low resource utilization often seen in deep learning applications and to enhance performance in heterogeneous GPU clusters. However, there has been considerably less research on the effective use of time-slicing, Multi-Process Service (MPS), and Multi-Instance GPU (MIG) sharing technologies in relation to the specific characteristics of deep learning applications across different GPU architectures. This paper proposes optimal task placement criteria for these GPU sharing technologies by analyzing the execution scale, resource sensitivity, and resource utilization of tasks based on various deep learning models and parameters. In a heterogeneous GPU cluster environment that supports multiple sharing technologies, this study tested these optimal task placement criteria, resulting in reduced execution time and improved throughput.

참고자료

· 없음