alignment_tax

정렬세

RLHF 정렬 후 일부 NLP 벤치마크 성능이 떨어지는 현상. PTX로 완화.

관련 수식
관련 논문