Zurueck zur Startseite

Tools

Open-Source CLI-Tools fuer lokale KI-Infrastruktur

Diese Tools entstanden aus dem Alltag mit selbst gehosteten KI-Systemen. Alle sind auf PyPI veroeffentlicht, lokal installierbar und benoetigen keinen Cloud-Zugang.

devlog

Arbeitslog mit KI-Zusammenfassungen

Taeglich in Sekunden den Arbeitsfortschritt festhalten. Ein lokales LLM schreibt daraus woechentliche Zusammenfassungen, Standup-Updates und PR-Beschreibungen – ohne Cloud, ohne API-Key.

Installation pip install devlog
PythonOllamaLocal LLMCLIProduktivitaet

vllm-monitor

Echtzeit-Dashboard fuer vLLM-Server

Terminal-Dashboard zur Live-Ueberwachung von vLLM-Servermetriken: GPU-Auslastung, Durchsatz, Latenz und Warteschlangen auf einen Blick – direkt im Terminal.

Installation pip install vllm-monitor
PythonvLLMTUIMonitoringCLI

model-manager

Ollama-Modelle verwalten

Einheitliche Kommandozeilen-Verwaltung fuer Ollama-Modelle: Auflisten, Herunterladen, Entfernen und Taggen – alles in einem Tool ohne Umwege ueber die Ollama-API direkt.

Installation pip install model-manager
PythonOllamaCLILocal LLM