최근 LLM 아키텍처는 파라미터보다 KV 캐시와 잔차 경로를 다시 설계한다

Sebastian Raschka의 최근 LLM 아키텍처 정리는 Gemma 4의 cross-layer KV sharing, Laguna XS.2의 layer-wise attention budget, ZAYA1-8B...