패킷 손실 환경에서 정확도 감소를 줄이는 심층 신경망 재학습 방법 (DNN Retraining Method Reducing Accuracy Degradation in Packet-Lossy Environments)

서지정보

· 발행기관 : 한국정보과학회
· 수록지 정보 : 정보과학회논문지 / 50권 / 3호 / 285 ~ 293페이지
· 저자명 : 김동휘, 임유진, 한승하, 김정래

초록

모바일 기기가 부족한 연산 용량으로 복잡해지는 심층신경망 모델들을 처리하기 위해 클라우드 서버와 협력해 처리하는 협력 지능이 도입되었다. 협력지능은 많은 양의 특징 데이터들을 서버로 전송하는데 시간을 많이 소모한다. 사용자 데이터그램 프로토콜(UDP)을 사용하면 이를 개선할 수 있지만 전송 과정에서 패킷 손실이 발생하면 추론의 정확도가 떨어진다. 본 논문은 패킷 손실로 인한 연속된 특징 손실을 모델링하여 서버에서 실행되는 층들만을 재학습하는 방법으로 정확도 저하를 줄이고, 통신 환경 변화에 강건하며 모바일 기기의 저장 공간 부담을 줄이는 재학습 방법을 제안한다.

영어초록

Limited resources on mobile devices have necessitated a collaboration with cloud servers, called “Collaborative Intelligence”, to process growing Deep Neural Network (DNN) model sizes. Collaborative intelligence takes a long time to send a lot of feature data from clients to servers.
One can reduce the transfer time using User Datagram Protocol (UDP), but a dropped packet during UDP transfer reduces inference accuracy. This paper proposed a DNN retraining method to develop a robust DNN model. The server-side layers are retrained to avoid lossy features by modeling continuous feature losses resulting from a packet drop. Our results showed that it can reduce accuracy reduction from packet losses, provide high accuracy reliability against changes in the communication environment, and reduce the storage overheads of mobile devices.

참고자료

· 없음