opencode-llm-proxy

Ce qu'il fait

opencode-llm-proxy est une passerelle locale qui abstrait plusieurs fournisseurs de LLM (OpenAI, Anthropic, Gemini et services compatibles avec l'API Responses) derrière une interface unifiée. Il gère le routage des requêtes, le streaming des réponses et les appels d'outils/fonctions standardisés entre différents modèles, permettant aux développeurs de changer de fournisseur sans modifier le code.

Comment configurer

Clonez le dépôt depuis GitHub, installez les dépendances, configurez vos clés API pour les fournisseurs souhaités (OpenAI, Anthropic, Gemini) et démarrez le serveur proxy local. L'intégration avec des plateformes comme LangChain, n8n, Ollama et Open-WebUI est prise en charge via des points de terminaison API standard et le protocole MCP.

Caractéristiques principales

• Support LLM multi-fournisseur (OpenAI, Anthropic, Gemini)
• Appels de fonctions unifiés et exécution d'outils entre les modèles
• Support des réponses en streaming
• Capacité d'appels d'outils parallèles
• Compatible avec les écosystèmes LangChain, n8n et MCP
• Déploiement local pour la confidentialité et la réduction de latence
• Remplacement plug-and-play pour les applications compatibles OpenAI