關鍵數據
| 配置 | 完成率 | Token(K) | 時間(hrs) | Wilson 95%% CI |
| C1: No user model | 8.0%% | 532.6 | 3.08 | - |
| C2: Full context | 71.0%% | 1,481.0 | 14.56 | [65.1,76.3] |
| C3: Last 5 TC | 79.0%% | 535.3 | 5.39 | [73.5,83.6] |
| C4: Last 5+Summary | 91.6%% | 553.4 | 5.79 | [87.5,94.4] |
GPT-5 + D365 F&O hotel expense itemization,50 任務,5 獨立 runs。C4 Wilson CI 與 C3 完全不重疊。SD: C2 4.4, C3 8.2, C4 1.7。
落地應用建議
1. Hermes N=5 tool-call pruner
每次 inference 前保留最近 5 對 tool call/response。不需額外 LLM call。
2. sleep-consolidation 擴為 running summary
eviction 時用 Agnes 免費模型做 inline summary,成本 +3.4%% token。
3. 失敗模式分類做品質診斷
stale-state / premature termination / wrong mapping 可自適應 Hermes。
4. N=5 直接套用
典型 task 3-8 tool calls,N=5 覆蓋 1-2 輪完整操作。
限制: 論文在 D365 F&O 驗證。Hermes tool response 為 HTML/JSON,optimal N 需實測。Summary 先用 Agnes 免費模型。