WeMM-Embedding은 왜 2B로 8B 멀티모달 임베딩을 넘었나
Tencent WeChat Vision의 WeMM-Embedding은 Qwen3.5 기반 2B·4B·9B 멀티모달 임베딩 모델군으로, 데이터 정제·세밀한 관련도 감독·교차 규모 증류와 Matryoshka 차원 절감을 결합해 작은 모델의 검색 효율을 밀...
Tag5 posts
#Vector Search
글 목록
Gemini Embedding 2는 텍스트·이미지·비디오·오디오를 하나의 검색 공간으로 묶는다
Google DeepMind의 Gemini Embedding 2 논문과 공식 문서를 바탕으로, 네이티브 멀티모달 임베딩 모델이 RAG·검색·추천 인프라에서 어떤 의미를 갖는지 정리한다.
HNSW는 벡터 검색을 고차원 skip list로 만든다
Victoria Slocum의 HNSW 설명 포스트를 출발점으로, 벡터 DB가 brute-force 검색 대신 계층적 근접 그래프를 쓰는 이유와 M·ef·distance 튜닝의 실무적 의미를 정리한다.
Procrustes alignment는 embedding 모델 교체를 호환성 문제로 바꾼다
arXiv 2510.13406은 서로 다른 embedding 모델이 pairwise dot product 구조를 비슷하게 보존한다면 직교 Procrustes 변환만으로 같은 검색·추천·멀티모달 파이프라인 안에서 호환시킬 수 있음을 이론과 세 가지 실험...
Jina Embeddings v5 Omni는 텍스트 인덱스를 그대로 둔 채 모든 미디어를 같은 벡터 공간으로 보낸다
jina-embeddings-v5-omni는 Jina v5 Text의 벡터 geometry를 보존하면서 이미지·비디오·오디오 타워를 frozen projector로 붙여, 기존 텍스트 인덱스를 멀티모달 검색 surface로 확장하려는 compact e...