[구글 AI 블로그 리뷰] Interpretable Deep Learning for Time Series Forecasting

다중 스텝 예측은 시계열 머신러닝에서 상당히 중요하게 여겨지는 도전적인 과제이다.
실생활 대부분의 데이터는 시간 속성을 가지고 있기 때문에, 미래를 예측하는 것은 상당한 가치를 창출한다.
다중 스텝 예측에 있어서 deep neural networks (DNNs)이 기존 시계열 모델보다 뛰어난 성능 향상을 입증시키면서 점점 더 사용되는 추세이다.

많은 모델들(예: DeepAR, MQRNN)은 recurrent neural networks (RNNs)에 초점을 맞춘 반면에, 최근 성능 향상은 Transformer-based models을 포함하여 정보를 순차적으로 처리하게 하는 RNN의 inductive bias를 뛰어넘는 수준의 관계성 높은 과거 타임 스텝의 선택성을 향상시키는 attention-based layers를 사용함으로써 이루어졌다.
그치만 이런 방법들은 종종 다중 스텝 예측에 일반적으로 존재하는 다른 입력을 고려하지 않으며 모든 외부 입력이 미래에 알려져 있다고 가정하거나(사전 관찰, look ahead) 중요한 정적 공변량을 무시하곤 한다.
또한 기존의 시계열 모델은 많은 매개 변수 사이의 복잡한 비선형 상호 작용에 의해 제어되므로 그러한 모델이 어떻게 예측에 도달하는지 설명하기가 어렵다. 안타깝게도, DNN의 특징을 설명하는 일반적인 방법들은 한계가 있다.
예를 들어 post-hoc 방법은 인풋 피쳐의 순서를 고려하지 않는다. 몇몇 attention-based 모델들은 순차적 데이터, 주로 언어 또는 음성에 대한 고유한 해석 가능성을 가지고 제안되지만, 다중 스텝 예측은 언어 또는 음성에 그치지 않고 다양한 유형의 입력을 가지고 있다.
Attention-based 모델들은 관계성 높은 과거 시간 스텝에 관한 통찰력을 제공할 수는 있지만, 주어진 시간 스텝에서 다양한 피쳐들의 중요도를 분별할 수는 없다. 고성능을 위한 다중 스텝 예측에서 데이터의 이질성을 해결하고 이러한 예측을 해석할 수 있도록 하는 새로운 방법이 필요하다.

 

출처: Interpretable Deep Learning for Time Series Forecasting – Google AI Blog (googleblog.com)