Microsoft Web IQ-benchmarkresultaten

Microsoft Web IQ is ontworpen voor het leveren van hoogwaardige onderbouwing met lage latentie en minder tokens. De volgende benchmarkresultaten vergelijken Web IQ met andere groundingdiensten.

Tokenefficiëntie

Web IQ werkt volgens een nieuwe Pareto-curve van efficiëntie. Het geeft prioriteit aan de meest relevante passages en minimaliseert onnodige context. Deze benadering vermindert het tokengebruik per query, redeneringstijd en de totale kosten voor het leveren van antwoorden van hoge kwaliteit.

In de gemeten set met 3000 query's leverde Web IQ de antwoorden van de hoogste kwaliteit met de minste tokens ten opzichte van de vergeleken services.

Bron: wereldwijde productiesteekproef van 3.000 query's. Webresultaatconfiguraties bevatten 10, 15 en 20 resultaten, met 3.000, 5.000, 10.000 en 20.000 tekens per resultaat of het equivalent.

Aardingstevredenheid

Web IQ levert volledige, gestructureerde context van webpagina's, nieuws, afbeeldingen en video. Deze context verbetert de nauwkeurigheid en consistentie van door AI gegenereerde antwoorden.

Dienst Tevredenheid over aarding
Web IQ 79,05
Concurrerende A 75,70
concurrent B 75,61
Concurrerende partij C 73,96
Concurrerende partij D 72,89
Concurrerende partij E 67,53
Concurrent F 64,71

Bron: 3.000 globale blinde query's uit productie geselecteerd. De configuratie gebruikte 10 resultaten en 10.000 tekens per resultaat of het equivalent.

P95-latentie

Snelle grounding helpt AI-systemen responsief te blijven in agentketens met meerdere stappen en dynamische query's. Het verminderen van de latentie bij elke stap vergroot de prestatieverbeteringen bij complexe interacties.

Dienst P95-latentie in milliseconden
Web IQ 164
Concurrent C 406
concurrent E 463
Concurrerende partij A 726
Concurrerende partij B 1.007
Concurrent D 1.930
concurrent G 2.090

De gemeten P95-latentie van Web IQ was ongeveer 2,5 keer sneller dan de volgende service in de vergelijking.

Bron: Virtuele machines die worden gehost in West US 2, North Central US, East US 2, North Europe en South Korea. P95-waarden worden over datacenters heen gemiddeld. Unieke query's voorkwamen cachetreffers. De configuratie heeft 10 resultaten en 10.000 tekens per resultaat gebruikt.