Sangmin LeeAI Engineer & Researcher

Tips116 tips

macOS / Linux

116 tips for macOS / Linux, 85-88 showing
22 / 29

Open source research codeApache-2.0

Lucebox Hub는 특정 소비자 GPU에 맞춰 손으로 튜닝한 로컬 LLM 추론 실험장이다

Luce-Org/lucebox-hub는 RTX 3090/5090 같은 NVIDIA CUDA GPU와 Ryzen AI MAX+ 395 HIP 경로까지 겨냥해 Megakernel, DFlash, PFlash로 로컬 LLM 추론 병목을 직접 줄이는 오픈소스 연구 코드 허브다.

  • Megakernel, DFlash, PFlash 세 프로젝트를 한 저장소에 묶어 RTX 3090/5090/GB10/Jetson Thor 같은 CUDA GPU와 Ryz...
  • 공식 배포 패키지나 Release가 아니라 source build 중심이며, DFlash는 `git clone --recurse-submodules`, CUDA 12...
  • Megakernel은 Qwen 3.5-0.8B 전체 forward를 단일 CUDA dispatch로 묶고, DFlash/PFlash는 27B GGUF target의...
macOS / LinuxWinOS
#Local AI#LLM Inference#CUDA#HIP

Luce-Org/lucebox-hubSource ↗

Proprietary desktop appProprietary / Terms of Use

Mark는 Markdown 파일을 문서처럼 열고 바로 다듬는 작은 데스크톱 앱이다

Playloom Mark는 Markdown을 코드 편집기보다 문서 뷰어에 가깝게 열고, 읽기·검색·목차·PDF 출력·가벼운 AI 편집을 한 화면에 묶은 크로스 플랫폼 데스크톱 앱이다.

  • Markdown을 코드 파일이 아니라 읽기 좋은 문서처럼 열고, 필요할 때만 바로 편집하는 데 초점을 둔다.
  • 목차, 검색, 표·이미지·코드 렌더링, 인쇄/PDF 저장, 폰트 선택, 이미지 크기 조절을 한 앱 안에 묶는다.
  • macOS Apple Silicon/Intel DMG, Windows x64 ZIP, Linux x64 AppImage 다운로드 링크가 공식 페이지에 공개되어 있다.
macOS / LinuxWinOS
#Markdown#Desktop App#Document Editor#AI Writing

Playloom MarkSource ↗

Open source demo appMIT

FineTune Studio MCP는 Claude 안에서 Hugging Face 파인튜닝을 실행하는 실험용 대시보드다

patchy631/ai-engineering-hub의 finetune-studio-mcp-app은 Claude의 MCP App UI에서 Hugging Face 모델·데이터셋 선택, AutoTrain 학습 시작, Gradio inference Space 배포, 채팅 테스트까지 이어 주는...

  • Claude Connector에 붙는 MCP App widget으로 모델 선택, 데이터셋 선택, 하이퍼파라미터 설정, 학습 모니터링을 4단계 wizard로 묶는다.
  • 실제 학습은 사용자의 Hugging Face 계정에 복제한 AutoTrain Advanced Space에서 돌고, 완료 후 fine-tuned model과 Gradi...
  • Manufact MCP Cloud 배포를 전제로 안내하지만, Node/TypeScript 서버를 로컬에서 `HF_TOKEN=... npm start`로 띄워 `htt...
macOS / LinuxWinOS
#AI Agents#MCP#Fine-tuning#Hugging Face

patchy631/ai-engineering-hubSource ↗

Open source betaApache-2.0

Rapid-MLX는 Apple Silicon에서 로컬 LLM을 OpenAI API처럼 빠르게 서빙한다

raullenchai/Rapid-MLX는 Apple Silicon Mac에서 MLX 기반 로컬 LLM을 OpenAI-compatible API로 서빙하고, Cursor·Claude Code·Aider 같은 도구를 로컬 모델에 붙이기 쉽게 만드는 Python inference 서버다.

  • Apple Silicon Mac에서 `rapid-mlx serve qwen3.5-4b`만으로 OpenAI-compatible `/v1` 서버를 띄우는 것이 핵심 사용...
  • Cursor, Claude Code, Aider, OpenCode, PydanticAI, LangChain, smolagents, Open WebUI, LibreCh...
  • Qwen3.5, Qwen3-Coder, Nemotron, DeepSeek, GLM, Kimi, GPT-OSS 등 모델 alias와 tool-call/reasoning...
macOS / Linux
#Local AI#Apple Silicon#MLX#OpenAI API

raullenchai/Rapid-MLXSource ↗