Michael-WhiteCapData/ollama-handoff

何をするか

ollama-handoffは、クラウドベースのLLMエージェントとローカルOllamaモデル間でのインテリジェントなタスク委任を可能にするMCPサーバーです。テキストの要約、ドラフト生成、データ抽出、初回コードレビューなどのルーチンで計算コストの低いタスクをキャッチし、それらを高価なクラウドAPIの代わりにローカルOllamaインスタンスにルーティングし、運用コストを大幅に削減します。

セットアップ方法

インストールには次が必要です：1）システムにOllamaをローカルにインストールすること（Windows、Mac、Linuxがサポートされています）、2）GitHubからollama-handoffリポジトリをクローンすること、3）pipを介してPython依存関係をインストールすること、4）サーバーに接続するためにMCPクライアントを構成すること、5）ローカルに委任したいタスクタイプのハンドオフルールを定義すること。

主な機能

• 一般的なタスク（要約、ドラフト、抽出、コードレビュー）のための事前設定されたハンドオフツール
• ローカルモデルのパフォーマンスに最適化された組み込みプロンプトテンプレート
• MCPプロトコルを介したクラウドLLMエージェントとのシームレスな統合
• クロスプラットフォームサポート（Windows、macOS、Linux）
• 委任されたタスクのためのクラウドAPIコストはゼロ
• 簡単なタスクルーティング構成