LLM Latency Tracker

Measured latency, time to first token and uptime for ~45 AI inference APIs, by region.

我該用這個嗎

品質與安全性

A
說明品質
100%
結構描述完整度
90%
命名品質
100%
汙染風險
100%
權限相符程度
100%
協定合規性
100%

根據工具定義與協定合規性的自動化分析。

上下文成本

~183Token(工具定義)
~422 B典型回應大小
極小的注意力影響(128k 上下文的 0.14%)

這是每次將伺服器的工具載入模型上下文時所消耗的約略 token 數量。數量越高,可用於其他工作的注意力就越少。

安裝

一鍵安裝

將以下內容加入你的 `claude_desktop_config.json` 檔案:

{
  "mcpServers": {
    "llm-latency-tracker": {
      "url": "https://llmlatency.dev/mcp"
    }
  }
}

遠端端點

https://llmlatency.dev/mcpstreamable-http

它能做什麼

工具清單

工具(2)

🟢 唯讀🟡 寫入🔴 刪除⚪ 未知
🟢get_ai_api_latency(region)

Measured latency (TTFB p50/p95) and uptime rankings of AI inference API providers by region, from llmlatency.dev.

輸入結構描述

{
  "type": "object",
  "properties": {
    "region": {
      "type": "string",
      "description": "eu-hetzner, us-central, ap-tokyo or sa-east; omit for all"
    }
  }
}
🟢get_model_deprecations(provider)

AI model deprecation calendar: announced and shutdown dates, replacement models, and how many days of migration notice each provider actually gives (median/min/max). Every entry is verified against the provider own deprecation page.

輸入結構描述

{
  "type": "object",
  "properties": {
    "provider": {
      "type": "string",
      "description": "openai, anthropic, google, mistral, cohere, azure-openai; omit for all"
    }
  }
}

社群

為此伺服器評分

證據

近期觀測

已驗證未記錄版本2 個工具
已驗證未記錄版本2 個工具