免费开源 LLM API 速度测试工具「TokenMeter」测量首 Token 时间 (TTFT) 和每秒 Token 数 (TPS)。据介绍支持 OpenAI Compatible 和 Anthropic 两种 API 格式，可配置多个测速计划并定时自动执行。

功能介绍

• 多 Token Plan 管理 — 自由组合 API 地址、模型、Prompt
• 高精度指标采集 — TTFT (ms)、TPS (Overall/Generate)、Token 密度、缓存读取量
• 定时测速引擎 — 基于 APScheduler 的自动化频率检测 (1 分钟 ~ 数小时)
• 数据可视化 — 实时 Dashboard 总览 + 历史性能趋势图
• 数据库迁移 — 使用 Alembic 管理数据库 schema，支持 PostgreSQL
• 安全性 — 自动化 Session 管理，首次启动随机管理员凭据
• Docker 生产级部署 — 预构建多架构镜像，一键拉起

项目地址

• Github：
  https://github.com/qingmuhy744/TokenMeter