Microsoft Web IQ 旨在提供高品質的 grounding,具備低延遲與更少的令牌數量。 以下基準結果將 Web IQ 與其他 grounding 服務做比較。
代幣效率
Web IQ 基於一條新的帕累托效率曲線運作。 它優先挑選最相關的段落,並減少不必要的背景說明。 此方法降低每次查詢的代幣使用、推理時間及提供高品質回應的總成本。
在所測試的 3,000 筆查詢中,Web IQ 相較於受比較的服務,以最少的權杖提供了最高品質的答案。
資料來源: 3,000 查詢的全球正式環境樣本。 網頁結果配置包括10、15和20個結果,每個結果有3,000、5,000、10,000和20,000字元或等效字元。
接地滿意度
Web IQ 提供完整且結構化的上下文,涵蓋網頁、新聞、圖片與影片。 這樣的情境提升了 AI 生成回應的準確性與一致性。
| Service | 接地滿意度 |
|---|---|
| 網頁智慧 | 79.05 |
| 競爭對手A | 75.70 |
| 競爭對手B | 75.61 |
| 競爭對手C | 73.96 |
| 競爭對手D | 72.89 |
| 競爭對手E | 67.53 |
| 競爭對手F | 64.71 |
來源: 從正式環境抽樣的 3,000 筆全球盲查詢。 該配置使用 10 筆結果,以及每筆結果 10,000 個字元或其等值。
P95 延遲
快速事實對齊有助於 AI 系統在多步驟代理鏈與動態查詢中保持反應能力。 降低每一步的延遲,能在複雜互動中累積效能提升。
| Service | P95 延遲(毫秒) |
|---|---|
| 網頁智慧 | 164 |
| 競爭對手C | 406 |
| 競爭對手E | 463 |
| 競爭對手A | 726 |
| 競爭對手B | 1,007 |
| 競爭對手D | 1,930 |
| 競爭對手G | 2,090 |
Web IQ 測量到的 P95 延遲比比較中的下一個服務快約 2.5 倍。
來源: 虛擬機器分別託管於美國西部 2、美國中北部、美國東部 2、北歐及南韓。 P95 的數值會跨各資料中心取平均。 唯一查詢避免了快取命中。 該配置使用 10 個結果,每個結果包含 10,000 個字元。