[모두의 딥러닝] Dynamic RNN

Sung Kim 님의 "모두의 딥러닝" 강의노트입니다

좋은 강의 감사드립니다!

https://www.youtube.com/watch?v=mQGwjrStQgg&list=PLlMkM4tgfjnLSOjrEJN31gZATbcj_MpUm&index=5

RNN의 가장 큰 장점 : Sequence data를 잘 다룰 수 있다는 것 

sequence는 항상 정해져있었다. 

하지만 정해지지 않을 때가 있다. 

각각이 원하는 입력값들이 가변한다. 그래서 문자열들의 갯수가 달라지게 된다. 

-> 기존에는 빈 공간에 padding을 이용했다!

하지만 weight들이 들어있기 때문에, 이 것이 loss를 헷갈리게 할 수 있다. 

그래서 배치에 대해 sequence_length를 알려주어야 한다. 그래서 loss가 헷갈리지 않도록 도와준다. 

다른 점은 sequence_length를 [5,3,4]로 기존과 다르게 주었다. 

sequence의 수에 따라 나머지의 값들은 0의 값을 갖게 된다. 

이 덕분에 loss가 잘 작동되게 된다. 

그저 “sequence_length"를 주기만 하면 된다.