Paper Understanding
Papers
Concepts
Formulas
KO
EN
rope
RoPE
쿼리/키에 회전을 곱해 상대 위치를 인코딩. 현대 오픈 LLM 표준.
관련 수식
RoPE (회전 위치)
관련 논문
llama
transformer