llmtrim

llmtrim

LLM API リクエストを圧縮するローカルプロキシで、回答に変更はなく、コストを削減できます。送信前にプロンプト、履歴、ツール出力、コードから無駄なトークンを削減します：-31% 入力 / -74% 出力、リアルタイムで測定。どのプロバイダーでも、追加のモデル呼び出しは不要です。また、MCP サーバーおよび埋め込み可能なライブラリ (Rust、Python、Ruby、Kotlin、Swift、JS/TS) でもあります。