Paper Understanding
Papers
Concepts
Formulas
KO
EN
llava_ar
멀티모달 자기회귀
p
(
X
a
∣
X
v
,
X
i
n
s
t
r
u
c
t
)
=
∏
i
p
θ
(
x
i
∣
X
v
,
X
i
n
s
t
r
u
c
t
,
<
i
,
X
a
,
<
i
)
p(X_a \mid X_v, X_{\mathrm{instruct}}) = \prod_i p_\theta(x_i \mid X_v, X_{\mathrm{instruct}, <i}, X_{a,<i})
p
(
X
a
∣
X
v
,
X
instruct
)
=
i
∏
p
θ
(
x
i
∣
X
v
,
X
instruct
,
<
i
,
X
a
,
<
i
)
멀티모달 자기회귀
수식 상세 →
기호를 클릭하면 의미를 볼 수 있습니다
X
a
X_a
X
a
X
i
n
s
t
r
u
c
t
X_{\mathrm{instruct}}
X
instruct
θ
\theta
θ
단계별 설명
1
논문 Eq. 2–3. Vicuna 대화 포맷(### 구분). Human/시스템 토큰은 손실에서 제외.
관련 논문
llava
llama
gpt2