cache-proxy

LLM caching proxy (x402 USDC on Base) - exact + semantic cache. Free health.

我该使用它吗

质量与安全性

A
描述质量
100%
模式完整度
95%
命名质量
80%
投毒风险
100%
权限匹配度
100%
协议合规性
100%

基于对工具定义和协议合规性的自动分析。

上下文开销

~240token 数(工具定义)
~1.1 KB典型响应大小
对注意力的影响极小(占 128k 上下文窗口的 0.19%)

这是每次将服务器的工具加载到模型上下文窗口时所消耗的大致 token 数。数值越高,可用于其他任务的注意力就越少。

安装

一键安装

将以下内容添加到你的 `claude_desktop_config.json` 文件中:

{
  "mcpServers": {
    "cache-proxy": {
      "url": "https://cache.api.ainode.tech/mcp"
    }
  }
}

远程端点

https://cache.api.ainode.tech/mcpstreamable-http

它能做什么

工具清单

工具(2)

🟢 只读🟡 写入🔴 删除⚪ 未知
⚪health(echo)

Health check. Returns server status and optional echo.

输入模式

{
  "type": "object",
  "properties": {
    "echo": {
      "type": "string",
      "description": "Optional string to echo back"
    }
  },
  "additionalProperties": false,
  "$schema": "http://json-schema.org/draft-07/schema#"
}
🟡cache_query(provider, path, body, api_key, cache_ttl)

Send an LLM request through the caching proxy. Returns cached response if available, otherwise proxies to upstream LLM.

输入模式

{
  "type": "object",
  "properties": {
    "provider": {
      "type": "string",
      "enum": [
        "openai",
        "anthropic"
      ],
      "description": "LLM provider to proxy to"
    },
    "path": {
      "type": "string",
      "description": "API path (e.g. /v1/chat/completions)"
    },
    "body": {
      "type": "string",
      "description": "JSON request body as string"
    },
    "api_key": {
      "type": "string",
      "description": "API key for the upstream provider"
    },
    "cache_ttl": {
      "type": "number",
      "description": "Cache TTL in seconds (default 86400)"
    }
  },
  "required": [
    "provider",
    "path",
    "body",
    "api_key"
  ],
  "additionalProperties": false,
  "$schema": "http://json-schema.org/draft-07/schema#"
}

社区

评价此服务器

证据

最近观测

已验证未记录版本2 个工具
已验证未记录版本2 个工具