Tips3 tips

#Go

3 tips tagged #Go, 1-3 showing
1 / 1

팁 목록

Source available prototypeUnknown

straw는 인프라 로그·메트릭·토폴로지 스트림을 LLM용 요약 Markdown으로 압축하는 작은 Go 프로토타입이다

ilyesarf/straw는 SSE 형태의 logs·metrics·events 스트림을 읽어 트래픽 토폴로지, elevated 리소스, 로그 signature만 남긴 Markdown으로 줄이는 Go CLI 프로토타입입니다.

  • README는 raw 276k token짜리 인프라 스트림을 straw 출력 약 1.1k token으로 줄이는 99.5% token reduction 예시를 전면에...
  • 입력은 `event: logs|metrics|events`와 `data: {...}` 줄로 구성된 stream 파일이며, CLI는 topology·resource s...
  • 현재는 Release, tag, 패키지 배포, LICENSE 파일이 없고 README도 `go run main.go stream.txt` 예시만 제공하는 초기 소스...

Upstream unavailableApache-2.0

Flock은 여러 머신의 로컬 LLM을 한 엔드포인트로 묶는 self-hosted inference control plane이다

hadihonarvar/flock은 macOS·Linux 머신의 Ollama, vLLM, MLX-LM, llama.cpp-RPC 백엔드를 OpenAI·Anthropic 호환 API, 키·쿼터·감사 로그, 대시보드로 묶는 Go 기반 로컬 LLM 오케스트레이터다.

  • 단일 Go 바이너리로 leader/worker/CLI를 겸하며, GitHub Release v0.1.0은 darwin·linux의 amd64/arm64 tarball...
  • `/v1/chat/completions`, `/v1/models`, `/v1/messages`, `/v1/messages/count_tokens`를 인증·쿼터 mid...
  • Ollama를 기본 엔진으로 쓰되 vLLM, MLX-LM, llama.cpp/RPC 엔진과 model catalog, `flock shard create <model...

Open source early previewApache-2.0

Agent Executor(AX)는 장기 실행 AI 에이전트를 위한 Google의 분산 런타임이다

google/ax는 에이전트 실행, 이벤트 로그, 재개, 원격 에이전트·스킬·도구 호출, Kubernetes 배포를 하나의 self-hosted 런타임으로 묶는 Google의 오픈소스 Agent Executor 프로젝트다.

  • Agent Executor(AX)는 controller, event log, registry를 중심으로 에이전트·스킬·MCP 도구·sandbox actor를 조율하는...
  • 긴 작업의 중단 복구를 위해 event log, single-writer architecture, `--last-seq` replay, `ax fork` 기반 tra...
  • 공식 첫 설치는 `go install github.com/google/ax/cmd/ax@latest`이며, 조사 시점 GitHub Release와 Go module...