FVQ: 시각 토큰을 이산화해도 이해 성능을 지킬 수 있을까
FVQ는 시각 특징의 재구성 오차와 멀티모달 이해 성능을 분리하고, 병렬 코드북의 비트 예산을 확장해 이산 표현의 가능성을 검증한다. 통제 실험과 대규모 학습 결과, 실제 모델 공개 상태를 구분해 살펴본다.
Tag1 posts
Tag1 posts
FVQ는 시각 특징의 재구성 오차와 멀티모달 이해 성능을 분리하고, 병렬 코드북의 비트 예산을 확장해 이산 표현의 가능성을 검증한다. 통제 실험과 대규모 학습 결과, 실제 모델 공개 상태를 구분해 살펴본다.