Paper Understanding
Papers
Concepts
Formulas
KO
EN
w2v_skipgram_obj
Skip-Gram 목적 함수
L
=
∑
t
=
1
T
∑
−
c
≤
j
≤
c
,
j
≠
0
log
P
(
w
t
+
j
∣
w
t
)
\mathcal{L} = \sum_{t=1}^{T} \sum_{-c \leq j \leq c, j \neq 0} \log P(w_{t+j} | w_t)
L
=
t
=
1
∑
T
−
c
≤
j
≤
c
,
j
=
0
∑
lo
g
P
(
w
t
+
j
∣
w
t
)
Skip-Gram 목적 함수
수식 상세 →
기호를 클릭하면 의미를 볼 수 있습니다
c
c
c
w
t
w_t
w
t
단계별 설명
1
중심 단어로 주변 문맥 단어의 로그 확률을 최대화한다.
2
희귀 단어에 유리하고 품질이 높은 편이다.
관련 논문
word2vec