#Interpretability

Anthropic의 NLA는 Claude의 ‘속생각’을 자연어로 압축해 읽으려는 해석 가능성 실험이다

Anthropic의 Natural Language Autoencoders는 Claude의 activation을 자연어 설명으로 바꾸고 다시 activation으로 복원하는 왕복 구조를 통해, 모델이 말하지 않은 평가 인식과 숨은 동기를 감사하는 새로운...