클라우드-네이티브 기반 SmartX AI 클러스터의 멀티 클러스터링 및 멀티 테넌시 기능 개선 (Improving Multi-clustering and Multi-tenancy of the Cloud-native SmartX AI Cluster)

서지정보

· 발행기관 : 한국정보과학회
· 수록지 정보 : 정보과학회 컴퓨팅의 실제 논문지 / 27권 / 7호 / 295 ~ 308페이지
· 저자명 : 윤금성, 한정수, 홍유진, 김종원

초록

최근 클라우드 서비스에 대한 수요 증가에 따라 경량화된 가상 환경을 기반으로 컴퓨팅 환경을 구성하는 컨테이너 기술의 사용이 크게 증가하였다. 이에 따라 확장성 및 가용성 특징을 갖는 클라우드-네이티브(Cloud-native) 컴퓨팅 기반 기술인 쿠버네티스(Kubernetes, K8S)를 채택하는 사례가 많아졌다. 또한, 이와 연계되어 다양한 분야에서 활용되고 있는 AI 기술 지원 도구들이 점차 늘어나게 되었으며 유연한 배포 및 운용이 가능하게 되었다. 그러나 상기 도구들을 효율적으로 사용하기 위하여 특정 워크로드를 대상으로 특화된 자원 구성에 대한 필요성이 대두되었다. 이에 멀티 클러스터의 개념이 제안되었으나 멀티 클러스터(Multi-cluster)의 구축과 함께 해당 구조를 관리하는 구성 요소 및 개념이 필요하다. 이에 대응하여 본 논문에서는 K8S 기반으로 구축된 SmartX AI Cluster의 확장과 더불어 Tenants Portal을 소개한다. 확장된 SmartX AI Cluster는 싱글 K8S 클러스터로 운영했던 기존의 방식과는 다르게 다른 종류의 자원을 포함하는 단일 K8S 클러스터들을 결합한 멀티 K8S 클러스터 환경을 제공한다. 또한, Tenants Portal은 별도의 K8S 환경을 구축하지 않아도 동시에 여러 사용자가 상기 환경을 이용할 수 있도록 지원하는 개체(Entity)이다. 최종적으로 제안한 환경에서 병렬 및 분산 처리, 추론 서비스 사례를 통해 머신러닝(Machine Learning, ML) 워크로드 검증을 수행함과 동시에 적용된 개념의 개선 및 관련 연구를 논의한다.

영어초록

The recent increase in demand for cloud services has led to a significant increase in the use of container technologies that create a computing environment based on lightweight virtual environment. This has led to the adoption of Kubernetes (K8S), a cloud-native computing-based technology that features scalability and availability. In addition, the number of artificial intelligence (AI) technology support tools that are being utilized in various areas has gradually increased and flexible distribution and operation has become possible. However, in order to efficiently use the above-mentioned tools, there is a need for a resource configuration specialized for a specific workload.
In response, the concept of a multi-cluster has been proposed, but it requires a component and a concept that manages the structure along with the construction of a multi-cluster. This paper introduces Tenants Portal along with extension of the SmartX AI Cluster built on K8S. The extended SmartX AI Cluster provides a multi-K8S cluster environment that combines single K8S clusters with different types of resources, unlike the previous method that operated as a single K8S cluster. In addition, Tenants Portal is an entity that supports multiple users to use the environment at the same time without building a separate K8S environment. Finally, in the proposed environment, machine learning (ML) workload verification is performed through parallel and distributed processing and inference service cases, and related studies are discussed.

참고자료

· 없음