카카오 OLIVE Platform은 오픈소스 컴플라이언스를 개발자 워크플로로 바...
if(kakao)2020의 OLIVE 발표와 현재 공개 문서를 함께 보면, OLIVE는 GitHub 연동·의존성 분석·컴포넌트 매핑·라이선스 의무 확인·리포트 생성을 통해 오픈소스 검증을 중앙 전담 업무에서 개발...
Category
Safety & Privacy
보안 배포, 개인정보 보호, 세이프티 가드, 해석 가능성과 리스크 평가를 정리합니다.
Anthropic은 Claude의 안전을 모델이 아니라 경계로 설계한다
Anthropic Engineering의 Claude containment 글은 claude.ai, Claude Code, Claude Cowork의 서로 다른 격리 구조를 통해 에이전트 보안의 핵심이 행동 감시...
CES는 토큰 엔트로피 분포를 환각 탐지의 지문으로 쓴다
Entropy Distribution as a Fingerprint for Hallucinations in Generative Models는 평균 perplexity가 버리는 토큰 엔트로피의 모양과 꼬리 신호를...
Kanana Safeguard 8B는 한국어 AI 서비스를 위한 공개 가드레일...
카카오의 Kanana Safeguard 8B는 한국어 유해 콘텐츠 탐지를 단일 토큰 분류 문제로 만들고, 사용자 발화와 AI 응답을 함께 판정하도록 공개된 Apache-2.0 가드레일 모델이다.
Meta CWM Preparedness Report는 오픈 웨이트 코드 모델 공...
Meta의 Code World Model Preparedness Report는 32B 코드 월드 모델 CWM을 공개하기 전에 사이버·생화학·정직성 리스크를 현재 오픈 모델 생태계와 비교해 검증한 사례다.
Microsoft MDASH는 취약점 탐지를 모델 경쟁에서 하네스 경쟁으로 바꾼...
Microsoft Security의 MDASH는 100개 이상의 전문 에이전트, 다중 모델 앙상블, debate·dedup·prove 파이프라인으로 Windows 취약점 16건과 CyberGym 88.45% 성과...
ETTIN-68M Nemotron PII는 개인정보 탐지를 68M 토큰 분류기로...
kalyan-ks/ettin-68m-nemotron-pii는 ETTIN 68M encoder와 NVIDIA Nemotron-PII 데이터를 결합해, 영어 PII/PHI 탐지를 작은 NER 모델로 운영 파이프라인에...
Anthropic의 NLA는 Claude의 ‘속생각’을 자연어로 압축해 읽으려는...
Anthropic의 Natural Language Autoencoders는 Claude의 activation을 자연어 설명으로 바꾸고 다시 activation으로 복원하는 왕복 구조를 통해, 모델이 말하지 않은...
OSCAR는 VLM 환각 억제를 더 강한 교사보다 자기 검증 루프로 옮긴다
OSCAR는 더 강한 VLM의 오프라인 정답을 흉내 내는 대신, 모델 자신의 판별 능력과 MCTS 탐색을 이용해 온라인 preference 데이터를 만들고 DPO로 갱신함으로써 시각 환각을 줄이는 정렬 프레임을...
Qwen-Scope는 SAE를 해석 도구에서 개발 인터페이스로 밀어 올린다
Qwen-Scope는 Qwen3·Qwen3.5 계열 7개 모델에 대해 14개 그룹의 sparse autoencoder를 공개하고, 이를 추론 조종·벤치마크 분석·안전 데이터 합성·사후 훈련 최적화까지 연결해 SA...
SIREN은 LLM 내부 표현으로 더 가벼운 세이프티 가드를 만든다
SIREN은 마지막 레이어 출력만 쓰는 기존 guard model 대신 LLM 내부 레이어의 safety neuron을 모아 harmfulness detector를 구성함으로써, 훨씬 적은 학습 파라미터로 더 강...
OpenAI Privacy Filter는 개인정보 마스킹을 로컬 실행 가능한 인...
OpenAI Privacy Filter는 PII 탐지와 마스킹을 위한 1.5B 오픈 웨이트 모델로, 긴 비정형 텍스트를 로컬 환경에서 빠르게 처리하면서 개인정보 보호를 제품 내부 워크플로우로 끌어들인다.
폐쇄망 AI 제품에서 보안 배포가 제품 경험이 되는 순간
모델 파일 암호화, manifest, runtime role mapping, 배포 검증은 보안 기능을 넘어 고객이 제품을 신뢰하는 방식이 된다.