SCM을 적용한 빅데이터 스트림 처리 시스템 설계 및 성능 분석 (Bigdata Streaming Eco System Design and Performance Analysis using SCM)

서지정보

· 발행기관 : 한국정보과학회
· 수록지 정보 : 정보과학회 컴퓨팅의 실제 논문지 / 25권 / 11호 / 523 ~ 532페이지
· 저자명 : 이경수, 김소현, 송다은

초록

DRAM의 고비용과 스토리지의 IO 오버헤드가 인-메모리 기반의 빅데이터 스트림 처리 시스템 구축에 문제가 되고 있다. 본 논문은 스트림 처리 시스템의 비용, 성능 문제를 해결하기 위해 SCM을 고용량의 메모리와 빠른 스토리지로 적용하는 방안을 소개한다. 메모리 모드는 DRAM을 SCM으로 대체해 비용을 낮추고, 스토리지 모드는 Disk 대신 SCM을 사용해 시스템 성능을 높인다. 본 논문은 Spark Streaming ECO System을 구성하는 응용 별 SCM을 적용해 DRAM 절감과 성능 변화를 측정하고, 이 응용이 전체 시스템에 미치는 영향을 분석하였다. 모든 응용에 메모리 모드, 스토리지 모드를 동시 적용한 결과 QoS는 95th는 1.4%, 99th는 2.8% 증가하였고, DRAM은 31% 절감했다. Spark 메모리 모드가 시스템에 미치는 영향이 가장 크며, SCM이 적용된 타 응용의 성능 변화는 Spark으로 인해 드러나지 않는 것으로 분석되었다.

영어초록

The high cost of the DRAM and the IO overhead of the storage has become a problem of In-memory based stream system construction. This paper introduces SCM as a high capacity memory and fast storage to solve cost and performance problems of the stream processing system.
The memory mode of the SCM replaces the heap of the DRAM with the SCM to lower the cost of the DRAM, and the storage mode of the SCM uses SCM instead of Disk to improve system performance. The big data stream processing system to apply SCM selected Spark Streaming ECO System. In the present work, we have analyzed the effect of SCM application on the whole system by measuring performance change and the reduction of DRAM by applying SCM for each application constituting the system. Application of both memory and storage modes to all applications resulted in a 1.4%/2.8% increase in QoS performance at 95th/99th, and a 31% reduction in DRAM. In addition, it was analyzed that the memory mode applied to Spark has the greatest influence on the system. The change in performance of other applications using SCM was not revealed due to Spark.

참고자료

· 없음