Attractor Models는 반복 추론을 고정점 학습 문제로 바꾼다
arXiv 2605.12466은 backbone이 출력 임베딩 초안을 만들고 attractor head가 고정점을 풀어 정제하는 구조로, looped LM의 메모리·깊이 병목을 줄이면서 770M 언어 모델과 27...
Tag
#Looped Transformers
Looped Transformers 태그가 붙은 글입니다.
Tag
Looped Transformers 태그가 붙은 글입니다.
arXiv 2605.12466은 backbone이 출력 임베딩 초안을 만들고 attractor head가 고정점을 풀어 정제하는 구조로, looped LM의 메모리·깊이 병목을 줄이면서 770M 언어 모델과 27...