학습데이터 크기 변화에 따른 트랜스포머 아키텍처의 여름철 실내온도와 열부하 예측성능 평가 (Evaluation of Summer Zone Temperature and Load Forecasting Performance of Transformer Architecture according to Training Dataset Size Change)

서지정보

· 발행기관 : 대한건축학회
· 수록지 정보 : 대한건축학회논문집 / 39권 / 2호 / 237 ~ 246페이지
· 저자명 : 최원준

초록

모든 건물은 개별성을 가진다. 따라서 특정 건물의 거동 특성을 완전히 반영하는 데이터는 건물의 완공 이후에만 얻을 수 있다. 따라서 대부분의 경우에 심층학습 모델의 학습을 위한 데이터는 건물의 운전단계에서 충분히 갖춰지지 않는다. 게다가 건물과 에너지 시스템의 거동 특성은 시간적인 열화, 커미셔닝, 요소장치의 교체, 리트로핏 등에 의해 자주 변한다. 따라서 심층학습 모델은 달라진 시스템 거동을 반영하기 위한 재학습이 꾸준히 요구된다. 이런 맥락에서 심층학습 아키텍처의 성능 벤치마크는 전술한 건물 에너지 분야의 특이성을 고려하여 설계되어야 한다. 이 연구는 세 가지 심층학습 아키텍처의 시계열 예측성능을 벤치마크한다. 널리 사용되어 온 다층퍼셉트론(MLP: multilayer perceptron), 장단기 메모리(LSTM: long short-term memory), 그리고 비교적 최근 개발된 트랜스포머(Transformer)가 벤치마크에 사용되었다. 재현할 수 있는 벤치마크를 위해 대중에게 공개된 에너지 시뮬레이션 모델을 데이터 생성기로 사용하였고, 심층학습 기반의 시계열 예측을 위해 개발한 오픈소스 Python 라이브러리인 DeepTimeSeries를 사용했다. 학습 데이터셋 크기에 따른 예측 성능의 변화를 알아보기 위해 0.3년에서 0.9년까지 학습데이터셋의 크기를 조절했다. 예측 대상은 존의 온도와 부하이다. 세 아키텍처 중에서 트랜스포머는 가장 성능이 좋았다. 특히 학습 데이터셋의 크기가 작은 경우 트랜스포머는 다른 아키텍처 대비 예측 대상의 최고점과 최저점을 정확하게 예측했다. 다른 아키텍처는 학습데이터셋의 크기가 작을 때 매우 불안정한 예측 거동을 보였다. 이 결과는 대부분의 경우 학습 데이터가 한정적인 건물 에너지 분야의 시계열 예측에 있어 트랜스포머가 매우 큰 잠재력을 가지고 있음을 시사한다.

영어초록

The data that fully reflects the dynamics of a building can only be collected after the building is completed. Therefore, the data for trainingmachine learning models are not sufficient at the operation stage of buildings. In addition, the dynamics of buildings and energy systemsfrequently change due to age deterioration, commissioning, component replacement, and retrofitting. Thus, the retraining of deep learningmodels to reflect the changed system dynamics is required. Therefore, the performance benchmark of deep learning architecture should bedesigned in consideration of these specificities of the building-energy field. This study benchmarks the time-series forecasting performance ofthree deep learning architectures: the multilayer perceptron (MLP) and long short-term memory (LSTM), which are widely used architectures,and the transformer, which is relatively recently developed but has high potential. For reproducible benchmarks, a publicly accessible datagenerator and the open-source Python library DeepTimeSeries was developed. The performance dependence according to the training datasetsize was evaluated by changing the training dataset size from 0.3 to 0.9 years. Forecasting targets were the zone air temperatures andthermal loads. Among the three architectures, the transformer had the best performance. In particular, when the training dataset size wassmall, the transformer exhibited better performance than other architectures in forecasting peaks and dips. Other architectures displayedunstable performance when the training dataset size was small. The results suggest that the transformer has a high potential for time seriesforecasting in the field of building energy, where the amount of data is limited in most cases.

참고자료

· 없음