positional_encoding

포지셔널 인코딩

순서 정보를 임베딩에 주입하는 방법. Transformer는 사인/코사인을 사용한다.

관련 논문