ICT 응용 서비스 지능화를 지원하는 클라우드-네이티브 기반 SmartX AI 컴퓨팅 클러스터 설계 및 검증 (Design and Evaluation of Cloud-Native-based SmartX AI Computing Cluster Supporting AI-enabled Services)

서지정보

· 발행기관 : 한국정보과학회
· 수록지 정보 : 정보과학회 컴퓨팅의 실제 논문지 / 25권 / 12호 / 571 ~ 584페이지
· 저자명 : 권진철, 김남곤, 김종원

초록

최근 마이크로 서비스 구조(Micro Service Architecture: MSA)를 적용한 지능형 ICT 응용 서비스가 크게 증가하면서, 이들과 효과적(Effectively)이고 유연하게(Flexibly) 연계될 수 있는 AI 컴퓨팅 자원들에 대한 요구 또한 크게 증가하고 있다. 본 논문에서는 상기한 AI 수요에 효과적으로 대응할 수 있는 클라우드-네이티브(Cloud-native) 기반의 SmartX AI 컴퓨팅 클러스터(SmartX AI Computing Cluster)의 개념을 제안한다. 여기서 클라우드-네이티브 컴퓨팅의 핵심 기술인 컨테이너 가상화와 컨테이너 오케스트레이션 기술은 분산 빅데이터/머신러닝 워크로드를 더욱 유연하고 동적으로 배포/운용할 수 있도록 도움을 준다. 제안하는 클러스터의 구성은 AI 컴퓨팅에 특화된 고성능 하드웨어와 오픈소스 소프트웨어를 중심으로 한다. 본 논문에서는 제시한 클러스터의 개념에 따라 실제 클러스터를 구축하기 위해 필요한 구체적인 하드웨어의 구성과 소프트웨어의 스택을 설계하고 제시한다. 그리고 제시한 설계에 따라 소규모 클러스터를 시험적으로 구축하여 보고, 구축된 클러스터의 기능들과 활용 방안에 대해 살펴본다. 또한 실제 빅데이터 및 분산 머신러닝 트레이닝 워크로드 운용 실험을 통해 스토리지와 네트워킹 측면에서 발생하는 병목(Bottleneck Points)을 도출하여 보고, 이를 개선하기 위한 소프트웨어 구성과 설정을 제안한다. 상기한 시도를 통해 제안하는 SmartX AI 컴퓨팅 클러스터와 실제 ICT 응용 서비스들과의 연계를 통해 효과적인 서비스 지능화의 가능성을 살펴본다.

영어초록

With the increasing adoption of Intelligent ICT Application Services on Micro Service Architecture (MSA), there has been a rising need for an effective and flexible AI Computing Resource.
In this paper, we propose an alternative concept of a Cloud-native-based SmartX AI Computing cluster that can effectively cope with the rising AI demands. Container virtualization & container orchestration, which are key components of cloud-native computing, enable the dynamical and flexible deployment and operation of distributed BigData/ML workloads. The proposed cluster components are based on AI-driven high-performance hardware and open-source software. In this paper, we design the hardware structure and the software stack required to adopt the proposed cluster concept into actual real-world clusters. We also implement a small cluster to examine its functionality and possible uses.
The paper further expands the topic by providing the results of the experiments running real-distributed BigData/Machine-learning training workloads as well as identifying bottleneck points caused by storage and networking issues. The bottleneck points are used to propose the optimized software stack and configuration required to overcome such issues. The potential of effective intelligent service is presented in the proposed SmartX AI computing cluster when linked to actual ICT application services.

참고자료

· 없음