반응형 장단기메모리1 순환신경망(RNN, Recurrent Neural Network), 장단기메모리(LSTM, Long Short Term Memory), 게이트 순환 유닛(GRU, Gated Recurrent Unit) 순환신경망(RNN, Recurrent Neural Network) 여러 개의 Data가 순서대로 입력될 경우 앞서 입력되었던 Data를 잠시 기억하는 방법으로 입출력값 설정에 따라 다방면으로 활용이 가능 시간축을 따라 이동불변성이 없는 패턴을 가진 경우에 사용하기 적합하다 시간 순서에 따른 학습이므로 backpropagation update를 위한 병렬학습이 불가능하다 매개변수를 공유하여 장거리 종속성을 Modeling 할 수 있다. 입력된 값이 서로 연관이 있을 때, 이를 모두 받아두어야 적절한 출력이 가능하지만 입력값 길이가 너무 길면 입력받은 Cell의 길이가 길어지며 선두에서 전달받은 결과값이 중간에 희미해지기도 하고 문맥벡터가 모든 값을 제대로 디코더에 전달하기 힘들어지는 문제가 발생. 즉, 많.. 2023. 8. 18. 이전 1 다음 728x90 반응형