Rapid-MLX는 Apple Silicon에서 로컬 LLM을 OpenAI API처럼...

raullenchai/Rapid-MLX는 Apple Silicon Mac에서 MLX 기반 로컬 LLM을 OpenAI-compatible API로 서빙하고, Cursor·Claude Code·Aider 같은 도구를 로컬 모델...

• Apple Silicon Mac에서 `rapid-mlx serve qwen3.5-4b`만으로 OpenAI-compatible `/v1` 서버를 띄우는 것이 핵심 사용...
• Cursor, Claude Code, Aider, OpenCode, PydanticAI, LangChain, smolagents, Open WebUI, LibreCh...
• Qwen3.5, Qwen3-Coder, Nemotron, DeepSeek, GLM, Kimi, GPT-OSS 등 모델 alias와 tool-call/reasoning...
• 텍스트 기본 설치는 비교적 작게 유지하고, vision·audio·embeddings·chat UI·guided decoding은 extras로 분리한다.
• 기본 서버는 인증 없이 `0.0.0.0:8000`에 바인딩될 수 있으므로 개인 노트북 밖으로 노출할 때는 `--host`, `--api-key`, 방화벽, rate...