Paratera LLM 基准测试

OpenAI 兼容接口 · TTFT / 吞吐 / 缓存命中 / 思考占比 / 流式真伪

接口

末尾不带 /chat/completions,工具会自行拼接

测试模型

已选 0 个
点击「自动检测可用模型」从 GET /models 拉取,或在下方手动填写模型名。
供应商未在 /models 里列出、但实际可调用的模型写在这里;与上方勾选合并去重。

测试参数

计入统计的轮次,不含下面的预热轮
第 1 轮通常受冷启动影响,默认丢弃不计入统计
实际值以响应 usage 为准
>1 时 TTFT 含排队时间,与串行结果不可直接比较
三种模式的缓存命中率不可互比
单次读取超时,不是请求总时长上限
仅限字母数字与 _ -,用于历史记录里区分批次

运行

未开始
日志将显示在这里。