Michael-WhiteCapData/ollama-handoff

Was es tut

ollama-handoff ist ein MCP-Server, der intelligente Aufgabenverteilung zwischen cloudbasierten LLM-Agenten und lokalen Ollama-Modellen ermöglicht. Es fängt routinemäßige, rechnerisch günstige Aufgaben wie Textzusammenfassungen, Entwurfserstellung, Datenextraktion und erste Code-Reviews ab und leitet sie an eine lokale Ollama-Instanz weiter, anstatt teure Cloud-APIs zu nutzen, was die Betriebskosten erheblich senkt.

Wie man es einrichtet

Die Installation erfordert: 1) Ollama lokal auf Ihrem System zu installieren (Windows, Mac, Linux unterstützt), 2) das ollama-handoff-Repository von GitHub zu klonen, 3) Python-Abhängigkeiten über pip zu installieren, 4) Ihren MCP-Client zu konfigurieren, um sich mit dem Server zu verbinden, 5) Übergaberegeln für die Aufgabenarten zu definieren, die Sie lokal delegieren möchten.

Hauptmerkmale

• Vorkonfigurierte Übergabe-Tools für gängige Aufgaben (Zusammenfassung, Entwurf, Extraktion, Code-Review)
• Integrierte Eingabeaufforderungsvorlagen, die für die Leistung des lokalen Modells optimiert sind
• Nahtlose Integration mit Cloud-LLM-Agenten über das MCP-Protokoll
• Plattformübergreifende Unterstützung (Windows, macOS, Linux)
• Null Cloud-API-Kosten für delegierte Aufgaben
• Einfache Konfiguration der Aufgabenweiterleitung