Gemma 4 12B는 인코더 없는 멀티모달을 로컬 에이전트 모델로 밀어 넣는다
Google의 Gemma 4 12B Unified는 11.95B dense 모델에서 별도 비전·오디오 인코더를 제거하고 raw patch와 waveform을 LLM backbone에 직접 투입해, 노트북급 로컬 에이전트와 멀티모달 앱을 겨냥한 공개 모...
Tag2 posts
#Gemma 4
글 목록
MLX와 Locally AI는 iPhone을 작은 로컬 LLM 런타임으로 바꾸고 있다
Adrien Grondin의 AI Engineer 발표는 Gemma 4를 iPhone에서 약 40 tok/s로 실행하는 데모를 통해, MLX Swift LM, Hugging Face MLX Community, 4-bit~8-bit 양자화, Locall...