Часто задаваемые вопросы об ответственном ИИ для Microsoft Agent 365

Система на основе искусственного интеллекта (ИИ) включает в себя не только технологию, но и людей, которые ее используют, людей, на которых она влияет, и среду, в которой она развернута. Часто задаваемые вопросы об ответственном применении ИИ Майкрософт призваны помочь вам понять, как работает технология на основе ИИ, какие решения могут принимать владельцы системы и пользователи, как эти решения влияют на результативность и поведение системы, а также насколько важно рассматривать систему в целом, включая технологию, людей и окружающую среду. Вы можете использовать часто задаваемые вопросы об ответственном применении ИИ для получения более полного представления о системах и функциях ИИ, которые разрабатывает Майкрософт.

Часто задаваемые вопросы об ответственном применении ИИ — одна из составляющих более широких усилий по внедрению принятых Майкрософт принципов применения ИИ на практике. Дополнительную информацию см. в статье Принципы Майкрософт в отношении ИИ.

Что такое Microsoft Agent 365?

Агент 365 является стратегической инициативой Майкрософт для включения, управления и масштабирования агентов ИИ на предприятии.

Что может сделать агент 365?

Расширяя инфраструктуру, используемую для управления людьми агентами, агент 365 предоставляет своим агентам те же приложения и защиты, адаптированные к потребностям агента, экономя ИТ-время и усилия по интеграции агентов в бизнес-процессы. Агент 365 включает в себя ведущие решения по обеспечению безопасности и производительности Майкрософт: Defender, Entra и Purview для защиты и управления агентами; Приложения Microsoft 365 и Рабочие IQ для ускорения их производительности; и Центр администрирования Microsoft 365 для управления агентами.

• Реестр. Получение полного представления всех агентов в организации, включая агентов с идентификатором агента, агентами, которые вы регистрируете самостоятельно, и теневых агентов.

• Управление доступом: предоставление агентам управления и ограничение доступа только к нужным ресурсам. Предотвратите компрометацию агентов с помощью политик условного доступа, основанных на оценке рисков.

• Визуализация. Изучение подключений между агентами, людьми и данными, а также мониторинг поведения и производительности агента в режиме реального времени для оценки их влияния на вашу организацию.

• Интероперабельность: Оснастите любого агента приложениями и данными для упрощения рабочих процессов человека-агента. Подключите их к Work IQ, чтобы обеспечить контекст работы для интеграции в бизнес-процессы.

• Безопасность: защита агентов от угроз и уязвимостей, обнаружение, исследование и устранение атак, предназначенных для агентов. Защитите данные, которые агенты создают и используют от чрезмерного использования, утечки и рискованного поведения агента.

Что такое предполагаемое использование агента 365?

• Корпоративные сотрудники могут использовать агенты ИИ в качестве автономных сущностей, способных действовать, сотрудничать и предоставлять результаты в рабочих процессах предприятия.

• CTOS и ИТ-администраторы, отвечающие за то, чтобы их организации стали лидерами, должны сделать это безопасно, удерживая агентов под контролем.

Как был оценен агент 365? Какие метрики используются для измерения производительности?

Мы оценили XPIA и необоснованные риски с помощью различных мероприятий оценки, включая группы тестирования ИИ и оценки, где были определены (если таковые имелись) и обоснованы.

Каковы ограничения агента 365? Как пользователи могут свести к минимуму влияние ограничений агента 365 при использовании системы?

Человек в контуре (HITL), метки конфиденциальности и разрешения общего доступа - это известные ограничения, которые будут устранены в будущем. При добавлении этого агента отмечают в различных точках взаимодействия, что все файлы или чаты, которыми вы делитесь, могут быть сведены и включены в ответы агента любому пользователю, даже если у него нет разрешений на файлы или чаты и независимо от метки конфиденциальности.

Какие операционные факторы и параметры позволяют эффективно и ответственно использовать Agent 365?

• Чтобы управлять параметрами внешней совместной работы для агентов в Microsoft Teams, администраторы должны настроить политики клиентов в Центре администрирования Teams.

Как предоставить отзыв об агенте 365?

Любые отзывы об Агенте 365 должны быть предоставлены на платформе, на которой он используется, включая, но не ограничиваясь Центром администрирования Microsoft 365, Центром администрирования Teams, Магазином Teams, Магазином агентов, Copilot, Purview и Defender.