Paper Understanding
Papers
Concepts
Formulas
KO
EN
chin_equal
Chinchilla 동등 스케일
N
o
p
t
(
C
)
∝
C
0.50
,
D
o
p
t
(
C
)
∝
C
0.50
N_{\mathrm{opt}}(C)\propto C^{0.50},\quad D_{\mathrm{opt}}(C)\propto C^{0.50}
N
opt
(
C
)
∝
C
0.50
,
D
opt
(
C
)
∝
C
0.50
Chinchilla 동등 스케일
수식 상세 →
기호를 클릭하면 의미를 볼 수 있습니다
C
C
C
단계별 설명
1
파라미터와 토큰을 같이 키움. Kaplan의 N∝C^0.73, D∝C^0.27과 대비.
관련 논문
chinchilla
scaling-laws