Michael-WhiteCapData/ollama-handoff

Что это делает

ollama-handoff — это сервер MCP, который позволяет интеллектуально делегировать задачи между облачными агентами LLM и локальными моделями Ollama. Он перехватывает рутинные, вычислительно дешевые задачи, такие как суммирование текста, генерация черновиков, извлечение данных и первичный обзор кода, перенаправляя их на локальный экземпляр Ollama вместо дорогих облачных API, что значительно снижает операционные расходы.

Как настроить

Установка требует: 1) Установить Ollama локально на вашей системе (поддерживаются Windows, Mac, Linux), 2) Клонировать репозиторий ollama-handoff с GitHub, 3) Установить зависимости Python через pip, 4) Настроить ваш клиент MCP для подключения к серверу, 5) Определить правила передачи для типов задач, которые вы хотите делегировать локально.

Ключевые особенности

• Предварительно настроенные инструменты передачи для общих задач (суммирование, черновик, извлечение, обзор кода)
• Встроенные шаблоны подсказок, оптимизированные для производительности локальной модели
• Бесшовная интеграция с облачными агентами LLM через протокол MCP
• Кроссплатформенная поддержка (Windows, macOS, Linux)
• Нулевые затраты на облачные API для делегированных задач
• Легкая настройка маршрутизации задач