FVQ: 시각 토큰을 이산화해도 이해 성능을 지킬 수 있을까
FVQ는 시각 특징의 재구성 오차와 멀티모달 이해 성능을 분리하고, 병렬 코드북의 비트 예산을 확장해 이산 표현의 가능성을 검증한다. 통제 실험과 대규모 학습 결과, 실제 모델 공개 상태를 구분해 살펴본다.
Tag4 posts
#Multimodal Models
글 목록
LFM3: 작은 공통 백본에서 멀티모달 전문 모델을 만든다
Liquid AI의 LFM3는 1.7B급 tri-hybrid 백본에서 텍스트·시각·음성·Omni·결정 모델을 파생한다. 전문화 경로와 성능을 살펴보고, 모델별 컨텍스트·메모리·런타임·라이선스의 차이를 구분한다.
Keye-VL-2.0은 긴 비디오를 256K 컨텍스트 문제로 다시 쓴다
Kwai Keye-VL-2.0-30B-A3B는 30B MoE에 3B active parameter, GQA용 DeepSeek Sparse Attention, Cross-Modal MOPD를 결합해 장시간 비디오 이해와 코드·툴·검색 agent 능력을...
LFM2는 파운데이션 모델을 엣지 지연·메모리 문제로 다시 설계한다
LFM2 Technical Report는 게이트드 짧은 합성곱과 소수의 GQA 블록을 결합한 하이브리드 백본, 32K 컨텍스트, VL·Audio·ColBERT 변형, 엣지 런타임 패키징을 한 묶음으로 공개한 Liquid AI의 온디바이스 모델 패밀리...