#Nested Learning

Nested Learning은 아키텍처와 옵티마이저를 같은 기억 문제로 묶는다

Nested Learning은 모델 구조와 학습 규칙을 별개의 설계물이 아니라 서로 다른 시간척도의 중첩 최적화·연상기억 문제로 해석하고, Hope와 CMS를 통해 continual learning과 long-context reasoning의 새 설계...