49
本地 LLM Agent 负载基准测试工具
开发者用真实 agent 轨迹回放,得到 llama.cpp、MLX 等本地推理配置的可复现性能对比。
2 条信号,3 个来源,最近 前天
开发者工具
- API / 基础设施
- B2B
- 中国
- 难度 3/5
- 启动 < $500
- MVP 约 4 周
开源项目,通过回放真实 agent 轨迹来基准测试本地 LLM serving,与本机会高度重合,是最直接的先例。
每个机会下面是它和这个产品的关系:重叠在哪里,留下了什么空白。
开发者用真实 agent 轨迹回放,得到 llama.cpp、MLX 等本地推理配置的可复现性能对比。
2 条信号,3 个来源,最近 前天
与 ArtificialAnalysis/aa-agentperf-local:开源项目,通过回放真实 agent 轨迹来基准测试本地 LLM serving,与本机会高度重合,是最直接的先例。