Prompt-Level Distillation은 추론을 가중치가 아니라 프롬프트...
Prompt-Level Distillation은 교사 모델의 추론 규칙을 학생 모델의 시스템 프롬프트로 옮겨, 파인튜닝 없이도 작은 모델이 복잡한 분류 추론을 더 빠르고 투명하게 수행하도록 만든다.
Blog
Knowledge WIKI
335 posts, 326-335 showing
OpenAI Privacy Filter는 개인정보 마스킹을 로컬 실행 가능한 인...
OpenAI Privacy Filter는 PII 탐지와 마스킹을 위한 1.5B 오픈 웨이트 모델로, 긴 비정형 텍스트를 로컬 환경에서 빠르게 처리하면서 개인정보 보호를 제품 내부 워크플로우로 끌어들인다.
Hugging Face Skills는 에이전트용 AI 워크플로우를 패키지화한다
Hugging Face Skills는 모델 학습, 데이터셋 탐색, 평가, 로컬 추론 같은 AI 작업 지식을 SKILL.md 기반 패키지로 묶어 Claude Code, Codex, Gemini CLI, Cursor...
dFactory는 Diffusion LLM 파인튜닝을 실험이 아니라 공정으로 만...
dFactory는 확산 언어 모델의 미세 조정을 위해 block diffusion, MoE 가중치 병합, 분산 학습, 병렬 디코딩 경로를 하나의 실행 가능한 프레임워크로 묶는다.
DataFlow는 LLM 데이터 준비를 스크립트에서 시스템으로 끌어올린다
데이터 중심 AI 시대에는 좋은 모델보다 좋은 데이터 파이프라인이 더 큰 차이를 만든다. DataFlow는 생성, 평가, 필터링, 정제를 하나의 실행 가능한 시스템으로 묶는다.
NeMo Data Designer는 합성 데이터를 프롬프트가 아니라 파이프라인으...
합성 데이터의 품질은 더 좋은 프롬프트 한 줄보다 컬럼 간 상관관계, 검증, 반복 가능한 생성 파이프라인에서 결정된다.
Agentic RAG는 검색 문제가 아니라 운영 문제다
RAG가 데모에서 제품으로 넘어가는 순간, 질문은 어떤 검색기가 더 좋은가에서 실패한 추론을 어떻게 발견하고 복구할 것인가로 바뀐다.
문서 AI 벤치마크는 왜 단일 정확도로 설명되지 않는가
문서 복원 품질은 OCR 텍스트 정확도와 테이블 구조 품질이 함께 움직일 때 비로소 사용자 체감 품질에 가까워진다.
폐쇄망 AI 제품에서 보안 배포가 제품 경험이 되는 순간
모델 파일 암호화, manifest, runtime role mapping, 배포 검증은 보안 기능을 넘어 고객이 제품을 신뢰하는 방식이 된다.
AI 연구 경험을 제품 언어로 번역하기
논문, 벤치마크, 제품 출시 경험을 한 프로필로 묶으려면 성과보다 판단의 구조가 먼저 보여야 한다.