gradient를 활용한 DNN 해석 방안
목적 Deep learning의 경우에는 일반적으로 결과에 대한 해석이 black-box 인 것으로 알려져 있음 최근에 이미지 데이터의 경우에는 gradient 기반으로 class 산출 결과에 대한 해석 방안이 언급되고 있음(Ex. grad-CAM 등) gradient 값을 활용하여 class 예측에 주요 영향을 주는 input variable을 찾고자 함 가정 사항 및 접근 방법 deep learning 학습 시 weight matrix 의 경우에는 input data에서 주요 의미가 있는 feature에 대해 추상화 작업을 하는 것으로 의미적으로 해석이 가능함 학습된 deep learning 모형을 대상으로 하여 feature...