cache-proxy

LLM caching proxy (x402 USDC on Base) - exact + semantic cache. Free health.

Sollte ich dies verwenden

Qualität und Sicherheit

A
Qualität der Beschreibung
100%
Vollständigkeit des Schemas
95%
Qualität der Benennung
80%
Risiko der Vergiftung
100%
Übereinstimmung der Berechtigungen
100%
Einhaltung des Protokolls
100%

Basierend auf einer automatisierten Analyse der Tool-Definitionen und der Einhaltung des Protokolls.

Kontextkosten

~240Tokens (Tool-Definitionen)
~1.1 KBTypische Antwortgröße
Minimale Auswirkung auf die Aufmerksamkeit (0.19% von 128k Kontext)

Dies ist die ungefähre Anzahl der Tokens, die jedes Mal verbraucht werden, wenn die Tools des Servers in den Kontext eines Modells geladen werden. Höhere Werte verringern die Aufmerksamkeit, die für andere Aufgaben verfügbar ist.

Installieren

Installation mit einem Klick

Fügen Sie dies Ihrer Datei `claude_desktop_config.json` hinzu:

{
  "mcpServers": {
    "cache-proxy": {
      "url": "https://cache.api.ainode.tech/mcp"
    }
  }
}

Remote-Endpunkte

https://cache.api.ainode.tech/mcpstreamable-http

Was es kann

Tool-Inventar

Tools (2)

🟢 Nur lesen🟡 Schreiben🔴 Löschen⚪ Unbekannt
⚪health(echo)

Health check. Returns server status and optional echo.

Eingabe-Schema

{
  "type": "object",
  "properties": {
    "echo": {
      "type": "string",
      "description": "Optional string to echo back"
    }
  },
  "additionalProperties": false,
  "$schema": "http://json-schema.org/draft-07/schema#"
}
🟡cache_query(provider, path, body, api_key, cache_ttl)

Send an LLM request through the caching proxy. Returns cached response if available, otherwise proxies to upstream LLM.

Eingabe-Schema

{
  "type": "object",
  "properties": {
    "provider": {
      "type": "string",
      "enum": [
        "openai",
        "anthropic"
      ],
      "description": "LLM provider to proxy to"
    },
    "path": {
      "type": "string",
      "description": "API path (e.g. /v1/chat/completions)"
    },
    "body": {
      "type": "string",
      "description": "JSON request body as string"
    },
    "api_key": {
      "type": "string",
      "description": "API key for the upstream provider"
    },
    "cache_ttl": {
      "type": "number",
      "description": "Cache TTL in seconds (default 86400)"
    }
  },
  "required": [
    "provider",
    "path",
    "body",
    "api_key"
  ],
  "additionalProperties": false,
  "$schema": "http://json-schema.org/draft-07/schema#"
}

Community

Diesen Server bewerten

Nachweis

Aktuelle Beobachtungen

verifiziertVersion nicht aufgezeichnet2 Tools
verifiziertVersion nicht aufgezeichnet2 Tools