LLM Latency Tracker
Measured latency, time to first token and uptime for ~45 AI inference APIs, by region.
사용해야 할까요
품질 및 안전성
A
도구 정의와 프로토콜 준수에 대한 자동 분석을 기반으로 합니다.
컨텍스트 비용
~183토큰 (도구 정의)
~422 B일반적인 응답 크기
최소한의 주의 영향 (128k 컨텍스트의 0.14%)
이는 서버의 도구가 모델의 컨텍스트에 로드될 때마다 소비되는 대략적인 토큰 수입니다. 수치가 높을수록 다른 작업에 사용할 수 있는 주의가 줄어듭니다.
설치
원클릭 설치
`claude_desktop_config.json` 파일에 다음을 추가하세요:
{
"mcpServers": {
"llm-latency-tracker": {
"url": "https://llmlatency.dev/mcp"
}
}
}원격 엔드포인트
https://llmlatency.dev/mcpstreamable-http할 수 있는 일
도구 목록
도구 (2)
🟢 읽기 전용🟡 쓰기🔴 삭제⚪ 알 수 없음
🟢get_ai_api_latency(region)
Measured latency (TTFB p50/p95) and uptime rankings of AI inference API providers by region, from llmlatency.dev.
입력 스키마
{
"type": "object",
"properties": {
"region": {
"type": "string",
"description": "eu-hetzner, us-central, ap-tokyo or sa-east; omit for all"
}
}
}🟢get_model_deprecations(provider)
AI model deprecation calendar: announced and shutdown dates, replacement models, and how many days of migration notice each provider actually gives (median/min/max). Every entry is verified against the provider own deprecation page.
입력 스키마
{
"type": "object",
"properties": {
"provider": {
"type": "string",
"description": "openai, anthropic, google, mistral, cohere, azure-openai; omit for all"
}
}
}커뮤니티
증거
최근 관측
검증됨버전이 기록되지 않음도구 2개
검증됨버전이 기록되지 않음도구 2개