gated_cross_attention

게이트 크로스-어텐션

새 cross-attention 블록의 출력을 tanh(α)로 게이팅하고 α를 0으로 초기화해, 고정 LLM에 비전 정보를 발산 없이 점진적으로 통합하는 기법 (Flamingo XATTN-DENSE).