Sangmin LeeAI Engineer & Researcher

Tips4 tips

#Fine-tuning

4 tips tagged #Fine-tuning, 1-4 showing
1 / 1

Open source notebookLGPL-3.0

Unsloth DeepSeek-OCR Colab은 3B OCR VLM을 내 문서 언어에 맞게 LoRA fine-tuning하는 빠른 실험대다

Unsloth의 DeepSeek-OCR 3B Colab은 Google Colab GPU에서 DeepSeek-OCR을 불러와 Persian OCR 데이터로 baseline inference, LoRA fine-tuning, CER 비교, LoRA/merged 16bit 저장까지 이어보는...

  • `unslothai/notebooks`의 `Deepseek_OCR_(3B).ipynb`는 README의 OCR Notebooks 표에서 Deepseek OCR 3B...
  • 노트북은 `unsloth/DeepSeek-OCR`을 `snapshot_download`로 내려받고 `FastVisionModel.from_pretrained(...,...
  • 예제 데이터는 Persian OCR용 `hezarai/parsynth-ocr-200k`이며, notebook code는 baseline에는 `train[:2000]`...
macOS / Linux
#Unsloth#DeepSeek-OCR#OCR#Vision Language Model

unslothai/notebooksSource ↗

Free web calculatorProprietary / Terms of Use

APXML VRAM Calculator는 로컬 LLM이 내 GPU에 들어갈지 빠르게 가늠하게 해준다

ApX Machine Learning의 APXML VRAM Calculator는 LLM 추론·파인튜닝에서 모델 크기, 양자화, KV 캐시, 컨텍스트 길이, 배치, 동시 사용자, GPU VRAM을 조합해 메모리와 대략적인 처리 속도를 추정하는 무료 웹 도구다.

  • 설치형 앱이나 오픈소스 저장소가 아니라 브라우저에서 쓰는 ApX Machine Learning의 무료 웹 계산기이며, 조사 시점에 공개된 calculator sour...
  • Inference와 Fine-tuning 탭을 나누고, FP16/Q8/Q4 같은 모델 weight quantization과 KV cache quantization을...
  • 모델 구조, layer/hidden dimension, active experts, attention 구조, batch size, sequence length, co...
macOS / LinuxWinOS
#Local LLM#VRAM#GPU#Fine-tuning

ApX Machine Learning / VRAM CalculatorSource ↗

Open source notebookLGPL-3.0

Unsloth Ministral 3 VL Colab은 3B급 VLM fine-tuning을 T4에서 빠르게 검증하게 해준다

Unsloth의 Ministral 3 VL 3B Vision Colab은 Google Colab T4 환경에서 Ministral 3 3B Instruct VLM을 LaTeX OCR 데이터로 SFT/LoRA fine-tuning하고 LoRA, 16bit, GGUF export까지 이어보는...

  • `unslothai/notebooks`의 `Ministral_3_VL_(3B)_Vision.ipynb`는 README의 Main Notebooks 표에서 Mistra...
  • 노트북 metadata와 안내문은 Google Colab GPU, 특히 무료 Tesla T4 런타임을 기준으로 하며, repo 자체는 Jupyter Notebook...
  • `FastVisionModel.from_pretrained("unsloth/Ministral-3-3B-Instruct-2512")`로 3B Instruct VLM을...
macOS / Linux
#Unsloth#Vision Language Model#Fine-tuning#LoRA

unslothai/notebooksSource ↗

Open source demo appMIT

FineTune Studio MCP는 Claude 안에서 Hugging Face 파인튜닝을 실행하는 실험용 대시보드다

patchy631/ai-engineering-hub의 finetune-studio-mcp-app은 Claude의 MCP App UI에서 Hugging Face 모델·데이터셋 선택, AutoTrain 학습 시작, Gradio inference Space 배포, 채팅 테스트까지 이어 주는...

  • Claude Connector에 붙는 MCP App widget으로 모델 선택, 데이터셋 선택, 하이퍼파라미터 설정, 학습 모니터링을 4단계 wizard로 묶는다.
  • 실제 학습은 사용자의 Hugging Face 계정에 복제한 AutoTrain Advanced Space에서 돌고, 완료 후 fine-tuned model과 Gradi...
  • Manufact MCP Cloud 배포를 전제로 안내하지만, Node/TypeScript 서버를 로컬에서 `HF_TOKEN=... npm start`로 띄워 `htt...
macOS / LinuxWinOS
#AI Agents#MCP#Fine-tuning#Hugging Face

patchy631/ai-engineering-hubSource ↗