Wyniki testu porównawczego Microsoft Web IQ

Microsoft Web IQ jest przeznaczony do zapewniania wysokiej jakości ugruntowania przy niskich opóźnieniach i mniejszej liczbie tokenów. Poniższe wyniki testu porównawczego porównują Web IQ z innymi usługami uziemiającymi.

Efektywność tokenów

Web IQ opiera się na nowej krzywej wydajności Pareto. Nadaje priorytet najważniejszym fragmentom i minimalizuje niepotrzebny kontekst. Takie podejście zmniejsza użycie tokenu na zapytanie, czas rozumowania i całkowity koszt dostarczania odpowiedzi wysokiej jakości.

W badanym zbiorze 3000 zapytań Web IQ dostarczał odpowiedzi o najwyższej jakości przy najmniejszej liczbie tokenów względem porównywanych usług.

Źródło: Globalna próbka produkcyjna obejmująca 3 000 zapytań. Konfiguracje wyników sieci Web obejmowały 10, 15 i 20 wyników, z 3000, 5000, 10 000 i 20 000 znaków na wynik lub ich odpowiednik.

Satysfakcja z uziemienia

Web IQ dostarcza pełny, ustrukturyzowany kontekst ze stron internetowych, wiadomości, obrazów i wideo. Ten kontekst poprawia dokładność i spójność odpowiedzi generowanych przez sztuczną inteligencję.

Service	Ocena ugruntowania
Web IQ	79,05
Konkurent A	75,70
Konkurent B	75,61
Konkurent C	73,96
Konkurent D	72,89
Konkurent E	67,53
Konkurent F	64,71

Źródło: 3000 globalnych ślepych zapytań próbkowanych z produkcji. W konfiguracji użyto 10 wyników i 10 000 znaków na wynik lub równowartość.

Opóźnienie P95

Szybkie osadzanie w kontekście pomaga systemom sztucznej inteligencji zachować responsywność w wieloetapowych łańcuchach agentów i przy dynamicznych zapytaniach. Zmniejszenie opóźnienia w każdym kroku potęguje poprawę wydajności w złożonych interakcjach.

Service	Opóźnienie P95 w milisekundach
Web IQ	164
Konkurent C	406
Konkurent E	463
Konkurent A	726
Konkurent B	1 007
Konkurent D	1 930
Konkurent G	2 090

Zmierzona latencja P95 usługi Web IQ była około 2,5 raza niższa niż w przypadku kolejnej usługi w porównaniu.

Źródło: Maszyny wirtualne hostowane w regionie West US 2, North Central US, East US 2, North Europe i South Korea. Wartości P95 są uśrednione w centrach danych. Unikatowe zapytania uniemożliwiały trafienia w pamięci podręcznej. W konfiguracji użyto 10 wyników i 10 000 znaków na wynik.