Microsoft risultati del benchmark Web IQ

Microsoft Web IQ è progettato per offrire grounding di alta qualità con bassa latenza e un minor numero di token. I risultati del benchmark seguenti confrontano Web IQ con altri servizi di grounding.

Efficienza dei token

L'IQ Web opera su una nuova curva Pareto di efficienza. Assegna priorità ai passaggi più rilevanti e riduce al minimo il contesto non necessario. Questo approccio riduce l'utilizzo dei token per query, il tempo di ragionamento e il costo totale di fornire risposte di alta qualità.

Nel set di query misurato di 3.000 query, Web IQ ha fornito le risposte di massima qualità con il minor numero di token rispetto ai servizi confrontati.

Fonte: campione globale di produzione di 3.000 query. Le configurazioni dei risultati Web includono 10, 15 e 20 risultati, con 3.000, 5.000, 10.000 e 20.000 caratteri per risultato o equivalente.

Soddisfazione della messa a terra

L'IQ Web offre un contesto completo e strutturato da pagine Web, notizie, immagini e video. Questo contesto migliora l'accuratezza e la coerenza delle risposte generate dall'intelligenza artificiale.

Service Soddisfazione della messa a terra
Web IQ 79,05
Concorrente A 75,70
Concorrente B 75,61
Concorrente C 73,96
Concorrente D 72,89
Concorrente E 67,53
Concorrente F 64,71

Origine: 3.000 query globali cieche campionate dalla produzione. La configurazione ha usato 10 risultati e 10.000 caratteri per risultato o equivalente.

Latenza P95

L'ancoraggio rapido consente ai sistemi di intelligenza artificiale di rimanere reattivi tra catene di agenti in più passaggi e query dinamiche. La riduzione della latenza in ogni passaggio amplifica i miglioramenti delle prestazioni nelle interazioni complesse.

Service Latenza P95 in millisecondi
Web IQ 164
Concorrente C 406
Concorrente E 463
Concorrente A 726
Concorrente B 1.007
Concorrente D 1.930
Concorrente G 2.090

La latenza P95 misurata di Web IQ era circa 2,5 volte più veloce rispetto al servizio successivo in classifica.

Origine: Macchine virtuali ospitate in West US 2, North Central US, East US 2, North Europe e South Korea. I valori P95 sono calcolati come media nei data center. Le query univoche hanno evitato hit della cache. La configurazione ha usato 10 risultati e 10.000 caratteri per risultato.