Joey-1: 긴 답변 대신 20ms의 작은 결정을 노린다
Baseten의 Joey-1은 Qwen3.5-2B를 분류·라우팅·점수 판단에 맞게 후학습한 모델이다. 공통 입력을 재사용하는 구조와 입력 100만 토큰당 0.01달러의 의미, 성능·확률·배포 범위를 나눠 살펴본다.
Tag3 posts
#Calibration
글 목록
Nimble: 긴 답변 대신 선택지의 확률로 결정을 만든다
Bespoke Nimble은 후보 토큰의 logits로 분류·조건 판단·점수를 반환한다. 대조 데이터 학습과 로컬 추론 구조를 살펴보고, 원본 평가·최신 checkpoint·v4 API의 근거와 라이선스를 분리한다.
CES는 토큰 엔트로피 분포를 환각 탐지의 지문으로 쓴다
Entropy Distribution as a Fingerprint for Hallucinations in Generative Models는 평균 perplexity가 버리는 토큰 엔트로피의 모양과 꼬리 신호를 이용해, 단일 forward pass 기...