Результаты тестов Microsoft Web IQ

Microsoft Web IQ предназначен для обеспечения высокого качества обоснования при низкой задержке и меньшем количестве токенов. Следующие результаты теста сравнивают Web IQ с другими сервисами обоснования.

Эффективность использования токенов

Web IQ основан на новой кривой эффективности Парето. Он отдает приоритет наиболее релевантным фрагментам и сводит к минимуму ненужный контекст. Этот подход сокращает использование токенов на запрос, время рассуждений и общую стоимость доставки высококачественных ответов.

В измеренном наборе из 3000 запросов Web IQ предоставил наиболее качественные ответы с наименьшим числом токенов относительно сравниваемых служб.

Источник: глобальная выборка из рабочей среды, состоящая из 3000 запросов. Конфигурации веб-результатов включают 10, 15 и 20 результатов, с 3000, 5000, 10 000 и 20 000 символов на результат или эквивалент.

Удовлетворенность заземлением

Веб-IQ обеспечивает полный структурированный контекст из веб-страниц, новостей, изображений и видео. Этот контекст повышает точность и согласованность создаваемых ИИ ответов.

Service Подключение к базовым знаниям
Веб-IQ 79.05
Конкурент A 75,70
Конкурент B 75,61
Конкурент C 73,96
Конкурент D 72,89
Конкурент E 67,53
Конкурент F 64,71

Источник: 3000 глобальных слепых запросов, отобранных из рабочей среды. Конфигурация использовала 10 результатов и 10 000 символов на результат или эквивалент.

Задержка P95

Быстрый grounding помогает системам ИИ оставаться отзывчивыми в многошаговых цепочках агентов и при динамических запросах. Снижение задержки на каждом шаге накапливает улучшения производительности при сложных взаимодействиях.

Service Задержка P95 в миллисекундах
Веб-IQ 164
Конкурент C 406
Конкурент E 463
Конкурент A 726
Конкурент B 1 007
Конкурент D 1 930
Конкурент G 2 090

Измеренная задержка P95 у Web IQ была примерно в 2,5 раза ниже, чем у следующего сервиса в сравнении.

Источник: Виртуальные машины, размещенные в West US 2, North Central US, East US 2, North Europe и South Korea. Значения P95 усредняются по всем центрам обработки данных. Уникальные запросы не приводили к попаданиям в кэш. В конфигурации использовались 10 результатов и 10 000 символов на результат.