Deep Learning/etc (1) 썸네일형 리스트형 Introduction to Transformer Neural Network Transformer neural network의 구조를 공부하는 데에 아래의 3개 유튜브 영상과 NIPS 17년 논문을 참고하였다. 본 포스팅에서는 이들의 내용을 정리한다. Youtube 영상 링크 Episode 1: Position Embeddings https://www.youtube.com/watch?v=dichIcUZfOw Episode 2: Multi-Head & Self-Attention https://www.youtube.com/watch?v=mMa2PmYJlCo Episode 3: Decoder's Masked Attention https://www.youtube.com/watch?v=gJ9kaJsE78k Paper A. Vaswani, Attention is all you need, N.. 이전 1 다음
