MMProLong은 128K VLM 학습을 더 긴 샘플이 아니라 데이터 레시피...
MMProLong은 Qwen2.5-VL-7B를 32K에서 128K로 확장하며, long-document VQA 합성·pool-native 길이 분포·8:2 추출/추론 혼합이 긴 멀티모달 컨텍스트 일반화에 더 중요...
Tag
#Multimodal Training
Multimodal Training 태그가 붙은 글입니다.
Tag
Multimodal Training 태그가 붙은 글입니다.
MMProLong은 Qwen2.5-VL-7B를 32K에서 128K로 확장하며, long-document VQA 합성·pool-native 길이 분포·8:2 추출/추론 혼합이 긴 멀티모달 컨텍스트 일반화에 더 중요...