텐서플로우를 이용한 순환신경망들의 알고리즘 성능평가

Abstract

본 연구에서는 딥 러닝(deep learning) 알고리즘으로 많이 사용되는 순환신경망(RNN: Recurrent Neural Network)을 전자상거래 데이터에 적용하여 성능평가를 하였다. RNN은 순차적인 정보를 학습시키는 인공신경망이다. 전통적인 신경망은 모든 입력 데이터가 독립적으로 학습되기 때문에 시간에 따른 정보를 학습하는데 한계가 있다. RNN은 모든 입력 데이터가 같은 과정을 반복하며 이전의 모든 계산 정보가 현재의 예측 결과에 적용된다. 전형적인 RNN은 긴 시퀀스(sequence) 데이터를 학습하는데 어려운 장기의존성문제(long term dependency)가 단점이다. 이러한 점을 개선하기 위한 RNN의 변형 알고리즘들이 연구되었으며, LSTM(Long Short Term Memory)와 GRU(Gated Recurrent Unit)이 대표적이다. 전자상거래의 발전과 최근 딥 러닝이 인공지능 분야에서 큰 성과를 이루면서 대표적인 딥 러닝 알고리즘인 RNN을 추천시스템에 적용하는 연구가 시작되고 있다. 본 연구에서는 RNN을 추천시스템에 적용하기 위한 기초연구를 수행하였다. RNN은 가장 많이 사용되고 있는 보통의 RNN과 LSTM 그리고 GRU 세 가지가 사용되었다. 적용 데이터로는 e-commerce의 click session 데이터가 사용되었다. 또한 각 RNN 알고리즘마다 세 가지 optimizer들에 따른 성능평가를 실시하였다.;This study is about evaluation of the performance of RNN(Recurrent Neural Networks) algorithms using e-commerce click session data. RNN is a deep-learning algorithm using sequential information in training. On the other hand traditional neural networks learn from the inputs individually. RNN learns every inputs by applying same processes and values. However it has been reported that there is a problem of Long-Term Dependencies. Some studies tried to solve the problem. As a result several solutions came out and LSTM and GRU algorithms are commonly used in many studies. According to an advance of e-commerce systems and an achievement of deep-learning, RNN was begun to be applied to e-commerce recommendation systems in some studies. The purpose of this paper is to find the optimal hyper-parameters for applying Recurrent Neural Networks to recommendation systems. More specifically we used e-commerce click session data to finding best algorithms which is hyper parameter’s element. After that we used more data for apply the best hyper-parameters.