Карта приложения: Microsoft Copilot (для организаций)

Примечание.

  • Сведения, приведенные в этой статье, относятся только к использованию Microsoft Copilot в организациях, где пользователи вошли в систему с помощью своей рабочей или учебной учетной записи.
  • Сведения об использовании Microsoft Copilot лицами, вошедшими с помощью учетной записи Майкрософт, например личного адреса электронной почты, см. в примечании о прозрачности для Microsoft Copilot (для физических лиц).

Что такое карта приложения или платформы?

Карточки приложений и платформы Майкрософт предназначены для того, чтобы помочь вам понять, как работает наша технология ИИ, какие решения, влияющие на производительность и поведение приложения, а также важность рассмотрения всего приложения, включая технологию, людей и окружающую среду, могут сделать владельцы приложений. Карточки приложений создаются для приложений ИИ, а карточки платформы — для служб платформы ИИ. Эти ресурсы могут поддерживать разработку или развертывание собственных приложений и могут предоставляться пользователям или заинтересованным лицам, на которых они затрагиваются.

В рамках своей приверженности ответственному ИИ корпорация Майкрософт придерживается шести основных принципов: честность, надежность и безопасность, конфиденциальность и безопасность, инклюзивность, прозрачность и подотчетность. Эти принципы встроены в Standard ответственного применения ИИ, который помогает командам проектировать, создавать и тестировать приложения ИИ. Карточки приложений и платформы играют ключевую роль в реализации этих принципов, обеспечивая прозрачность в отношении возможностей, предполагаемого использования и ограничений. Для получения дополнительной информации читателям рекомендуется изучить отчет Microsoft о прозрачности ответственного применения ИИ и Кодекс поведения Microsoft Enterprise AI Services (для организаций) или раздел Правил поведения в Соглашении об использовании служб Microsoft (для физических лиц), в обоих из которых описывается, как ответственно взаимодействовать с ИИ.

Обзор

Microsoft Copilot — это инструмент повышения производительности на базе искусственного интеллекта, который помогает расширить ваш творческий потенциал, производительность и навыки за счет использования больших языковых моделей (LLM) и содержимого, к которому у вас есть доступ. Он предоставляет интеллектуальную помощь в режиме реального времени, работая вместе с популярными приложениями и службами Microsoft 365, такими как Word, Excel, PowerPoint, Outlook, Teams и другие.

Например, на работе вы можете попросить Microsoft Copilot резюмировать собрание Teams, которое вы пропустили. Дома вы можете использовать Microsoft Copilot для создания слайд-шоу из фотографий из семейного отпуска.

Дополнительные сведения для организаций см. в обзоре Microsoft Copilot и центре Microsoft Copilot. Отдельные пользователи могут ознакомиться со справкой и учебными курсами по Microsoft Copilot.

Ключевые термины

В таблице ниже представлен глоссарий ключевых терминов, связанных с Microsoft Copilot.

Термин Описание
Агенты Агенты предназначены для автоматизации и выполнения бизнес-процессов с использованием ИИ на основе предопределенных инструкций и доступа к данным организации. Они могут помогать или действовать независимо от имени отдельных лиц или команд — от простых взаимодействий "запрос и ответ" до полностью автономного выполнения задач. Дополнительные сведения об использовании ИИ в агентах Copilot см. непосредственно в этих предложениях.
Содержимое взаимодействий Термин, используемый для описания запроса пользователя и ответа Microsoft Copilot на этот запрос.
Расширенный запрос Запрос обогащается, когда в запрос добавляются дополнительные инструкции, которые помогают Microsoft Copilot генерировать более конкретный и релевантный ответ.
Заземление Заземление относится к процессу предоставления источников входных данных для LLM, связанных с запросом. Разрешив Microsoft Copilot доступ к данным для использования в качестве источников входных данных, например данным из Microsoft Graph или Bing, Microsoft Copilot может предоставлять пользователям более точные и контекстуальные ответы.
Индексирование Корпорация Майкрософт использует лексическое и семантическое индексирование данных Microsoft Graph для заземления ответов для Microsoft Copilot в корпоративных данных. Индексация интерпретирует запросы для получения контекстуально релевантных ответов.
Логический вывод Вывод — это этап обработки, когда модель ИИ выполняет запрос для получения выходных данных или ответа, например резюмирования содержимого или ответа на вопрос.
Большая языковая модель (LLM) Большие языковые модели (LLM) в этом контексте — это модели ИИ, обученные на больших объемах текстовых данных для прогнозирования слов в последовательностях. LLM способны выполнять различные задачи, такие как создание текста, обобщение, перевод, классификация и многое другое.
Microsoft Graph Microsoft Graph — это шлюз к данным и аналитике в Microsoft 365. Он включает сведения о связях между пользователями, действиями и данными организации.
Постобработка Обработка, которую Microsoft Copilot выполняет после получения ответа от LLM. Эта постобработка включает в себя дополнительные вызовы граундинга для Microsoft Graph, ответственный ИИ, безопасность, соответствие требованиям и проверки конфиденциальности.
Processing Обработка запроса пользователя в Microsoft Copilot включает в себя несколько шагов, включая ответственные проверки ИИ, чтобы помочь Microsoft Copilot предоставить релевантные и действенные ответы.
Запрос Запрос — это текст, отправляемый Microsoft Copilot для выполнения определенной задачи или предоставления информации. Например, пользователь может ввести следующий запрос: Напиши письмо с поздравлениями моей команды с окончанием финансового года.
Тестирование красной команды Методы, используемые экспертами для оценки ограничений и уязвимостей системы и проверки эффективности запланированных мер по смягчению последствий. Тестирование Red Team используется для выявления потенциальных рисков и отличается от систематического измерения рисков.
Ответ Содержимое, созданное LLM и возвращенное Microsoft Copilot в качестве ответа на запрос.
Ответственное применение ИИ Политика, исследования и инженерные практики Майкрософт, основанные на наших принципах ИИ и реализуемые в соответствии с нашим стандартом ответственного применения ИИ.

Основные функции и возможности

В таблице ниже приведены основные функции и возможности, описывающие задачу Microsoft Copilot и ее выполнение в поддерживаемых задачах.

Функция Описание
Microsoft Copilot в Word Microsoft Copilot в Word преобразует письмо эффективно и творчески, так что пользователи могут создавать, резюмировать, понимать, уточнять и улучшать документы. Пользователи также могут использовать расширенные возможности, такие как визуализация и преобразование текста в таблицу. Некоторые другие возможности также включают добавление к существующим запросам, составление черновика документа путем ссылок на другие документы и поиск сведений о документах.

Подробнее см. в разделе "Вопросы и ответы о Copilot в Word".
Microsoft Copilot в PowerPoint Microsoft Copilot в PowerPoint позволяет пользователям создавать презентации на основе запроса или файла Word, используя корпоративные шаблоны. Функция чата включает сводку и вопросы&ответы, а легкие команды позволяют пользователям добавлять слайды, изображения или вносить изменения форматирования в пределах всей презентации. Файлы PowerPoint также можно использовать для граундинга данных.

Подробнее см. в разделе "Вопросы и ответы о Copilot в PowerPoint".
Microsoft Copilot в Excel Microsoft Copilot в Excel помогает пользователям с предложениями формул, типов диаграмм и аналитическими сведениями о данных в электронных таблицах.

Подробнее см. в разделе "Вопросы и ответы о Copilot в Excel".
Microsoft Copilot в Outlook Microsoft Copilot в Outlook помогает управлять почтовым ящиком и более эффективно налаживать эффективную коммуникацию. Microsoft Copilot в Outlook может резюмировать цепочку писем, предлагать поручения, ответы и последующие встречи. Он также позволяет регулировать длину и тон при составлении электронного письма.

Подробнее см. в разделе "Вопросы и ответы о Copilot в Outlook".
Microsoft Copilot в Teams Microsoft Copilot в Teams может подвести итоги бесед, организовать ключевые моменты обсуждения и резюмировать ключевые действия. Пользователи могут получить ответы на конкретные вопросы и наверстать упущенное на собраниях или в чате

Дополнительные сведения см. в разделе "Вопросы и ответы о Copilot в Microsoft Teams".
Microsoft Copilot в Loop Microsoft Copilot в Loop позволяет пользователям создавать контент, который может быть совместно улучшен путем прямого редактирования или доработки Copilot.

Подробнее см. в разделе "Вопросы и ответы о Copilot в Loop".
Microsoft Copilot в видеопроигрывателе Microsoft Clipchamp Microsoft Copilot в видеопроигрывателе Microsoft Clipchamp помогает получить информацию из любого видео с расшифровкой. Microsoft Copilot в видеопроигрывателе Clipchamp может создать сводку видео, ответить на определенные вопросы, быстро перейти к определенным темам или пунктам обсуждения и определить призывы к действию.

Подробнее см. в разделе "Вопросы и ответы о Copilot в видеопроигрывателе Clipchamp".
Microsoft Copilot в Whiteboard Microsoft Copilot в Whiteboard помогает запустить процесс генерации идей, их классификации и обобщения.

Дополнительные сведения см. в разделе "Вопросы и ответы о Copilot в Whiteboard".
Microsoft Copilot в OneNote Microsoft Copilot в OneNote позволяет пользователям создавать черновики планов, генерировать идеи, создавать списки и упорядочивать информацию, чтобы помочь им найти то, что им нужно в приложении OneNote.

Дополнительные сведения см. в разделе "Вопросы и ответы о Copilot в OneNote".
Microsoft Copilot в Microsoft Forms Microsoft Copilot в Microsoft Forms предоставляет помощь на базе искусственного интеллекта с опросами, тестами и опросами. Copilot помогает пользователям создавать черновики, просматривать, отправлять и анализировать результаты.

Подробнее см. в разделе "Вопросы и ответы о Copilot в Forms".
Microsoft Copilot Chat Microsoft Copilot Chat сочетает в себе возможности больших языковых моделей с Интернетом, рабочим контентом и контекстом, а также другими приложениями, помогая пользователям создавать черновики материалов, наверстывать упущенное и получать ответы на вопросы с помощью запросов.

Дополнительные сведения см. в разделе "Вопросы и ответы о Microsoft Copilot Chat".
Microsoft Copilot в редакторе форматированного текста SharePoint Microsoft Copilot в редакторе форматированного текста Microsoft SharePoint упрощает создание содержимого на страницах и в публикациях SharePoint. С помощью Copilot вы можете переписывать текст, корректировать тон, сжимать информацию и развивать идеи.

Дополнительные сведения см. в статье "Вопросы и ответы о Copilot в SharePoint".
Microsoft Copilot в OneDrive Microsoft Copilot в OneDrive — это инновационный помощник на базе искусственного интеллекта, предназначенный для взаимодействия с документами путем извлечения информации, сравнения ключевых различий, резюмирования файлов и получения аналитических сведений.

Дополнительные сведения см. в разделе "Вопросы и ответы о Copilot в OneDrive".
Карточки с заставкой Microsoft Copilot Карточки с заставкой позволяют быстро просмотреть рабочие сущности, например документы, для оценки релевантности или вспоминаемости. Доступ к ним осуществляется путем наведения курсора на файлы на вкладке «Поиск» приложения Microsoft Copilot.
Соединители Power Platform Соединители Power Platform позволяют клиентам получать доступ к данным из коллекции бизнес-приложений и личных приложений для повышения производительности в интерфейсе Microsoft Copilot.
Соединители Microsoft 365 Copilot Соединители Microsoft 365 Copilot позволяют принимать неструктурированные бизнес-данные в Microsoft Graph, чтобы Microsoft Copilot мог проанализировать весь контент предприятия.

Дополнительные сведения см. в статье Обзор соединителей Microsoft 365 Copilot.
Microsoft Purview Microsoft Purview — это решение, которое помогает организациям управлять своими данными и защищать их. Она предоставляет единую платформу для управления данными, защиты информации, управления рисками и обеспечения соответствия требованиям. Клиенты могут расширить возможности Microsoft Purview, предоставляемые подписками Майкрософт клиентов (например, подписками Microsoft 365 E3 или E5), на данные и взаимодействия Microsoft Copilot.
Настройка Microsoft Copilot Настройка Microsoft Copilot позволяет организациям выполнять тонкую настройку больших языковых моделей (LLM), используя данные собственных клиентов. Эти модели можно использовать для выполнения задач, связанных с конкретной предметной областью, на основе уникальных знаний организации.

Подробнее см. в разделе "Часто задаваемые вопросы по настройке Copilot".
Microsoft Copilot Studio Microsoft Copilot Studio — это мощная платформа для создания безопасных, масштабируемых и интеллектуальных агентов, работающих в Microsoft 365 и бизнес-системах.

Дополнительные сведения см. в разделе Карточка приложения: Microsoft Copilot Studio.
Функция Agent Builder в Microsoft Copilot Функция Agent Builder в Microsoft Copilot предоставляет простой интерфейс, который можно быстро и легко использовать для создания декларативных агентов, используя естественный язык или вручную.

Подробнее см. в статье "Построитель агентов в Microsoft Copilot".
Microsoft Copilot с агентом, использующим компьютер Microsoft Copilot с агентом использования компьютера позволяет автоматизировать задачи в браузере или на рабочем столе, чтобы в запросах можно было использовать больше содержимого и контекста. Так как агент может выполнять задачи от вашего имени, безопасность и конфиденциальность системы могут подвергаться риску. Чтобы снизить этот риск, агент имеет несколько защитных мер, включая управляемые моделью проверки безопасности содержимого и действий, а также элементы управления администратора клиента, которые включают или отключают агент, использующий компьютер, и ограничивают доступ к веб-сайтам и доменам, к которым агент может получить доступ. Рекомендуется применить эти элементы управления и оценить использование агента.
Microsoft Copilot Cowork Microsoft Copilot Cowork использует ИИ для выполнения многоэтапных задач от вашего имени в Microsoft 365. Вы описываете то, что вам нужно, на естественном языке, и Cowork выполняет это, отправляя электронные письма, планируя собрания, создавая документы, публикуя в Teams, проводя исследования и управляя файлами.

Дополнительные сведения см. в разделе Application карта: Microsoft Copilot Cowork.
Федеративные соединители для Microsoft Copilot Федеративные соединители для Microsoft Copilot позволяют Copilot считывать и записывать данные во внешние системы и из них в режиме реального времени, используя протокол контекста модели (MCP). Доступ к данным осуществляется с помощью удостоверения и разрешений пользователя, и они остаются в исходном расположении. Данные не индексируются и не хранятся в Microsoft Graph. Администраторы могут управлять этими соединителями в Центре администрирования Microsoft 365.

Дополнительные сведения см. в статье Общие сведения о федеративных соединителях.

Расширяемость и настройка

Функция Agent Builder в Microsoft Copilot и Copilot Studio — это инструменты для создания безопасных, масштабируемых и интеллектуальных агентов, которые работают с Microsoft 365 и бизнес-системами. Оба инструмента позволяют создавать агентов, но служат разным потребностям. Используйте построитель агентов, если вы хотите быстро создать агент для себя или для небольшой команды, используя естественный язык и существующий контент. Выбирайте Copilot Studio, если вам нужен агент для более широкой аудитории или если агенту требуются расширенные возможности, такие как многошаговые рабочие процессы или настраиваемые интеграции. Дополнительные сведения см. в разделе Выбор между Microsoft Copilot и Copilot Studio для создания агента и декларативными агентами для Microsoft Copilot.

Для разработчиков Пакет SDK для агентов Microsoft 365 Microsoft 365 предоставляет инструменты для создания агентов, которые тесно взаимодействуют с приложениями и службами Microsoft 365.

Предполагаемое использование

Microsoft Copilot можно использовать в нескольких сценариях в различных отраслях. Вот несколько примеров вариантов использования:

  • Chat и общение и создание: пользователи могут взаимодействовать с Microsoft Copilot Chat и генерировать ответы, основанные на надежных документах, таких как внутренняя документация компании или документация технической поддержки.
  • Поиск: Пользователи могут искать надежные исходные документы, такие как внутренняя документация компании.
  • Резюме: Пользователи могут отправлять содержимое для резюмирования по заранее определенным темам, встроенным в приложение. Примеры включают сводку чатов Teams, электронных писем, веб-страниц и документов Word.
  • Помощь в написании текста на определенные темы: Пользователи могут создавать новое содержимое или переписывать содержимое, отправленное пользователем в качестве вспомогательного средства для делового контента или предопределенных тем. Например, составление черновиков сообщений электронной почты в Microsoft Outlook или написание контента в Microsoft Word.
  • Субтитры или транскрипция: Пользователи могут транскрибировать звуковые файлы в текст для понимания естественного языка или аналитических задач, таких как резюмирование. В качестве примеров можно привести расшифровки собраний Teams и видео в видеопроигрывателе Microsoft Clipchamp.

Корпорация Майкрософт предоставляет подробные рекомендации, в которых основное внимание уделяется распространенным случаям использования и сценариям, чтобы помочь клиентам ускорить внедрение возможностей Microsoft Copilot в своих организациях. Дополнительные сведения см. в Библиотеке сценариев Майкрософт — внедрение продуктов Майкрософт.

Модели и обучающие данные

Microsoft Copilot использует различные модели ИИ для повышения удобства работы пользователей, например в следующих примерах:

  • Модели генеративных предварительно обученных трансформаторов (GPT), предоставляемые Майкрософт (служба OpenAI Azure)
  • Claude модели Opus и Claude Sonnet, предоставленные Anthropic
  • GPT-модели, предоставляемые OpenAI

Примечание.

Дополнительные сведения о данных, используемых для обучения этих моделей Microsoft Copilot, см. в следующих ресурсах:

Microsoft Copilot использует комбинацию LLM для обобщения, прогнозирования и создания содержимого, включая модели, предоставляемые Microsoft (служба Azure OpenAI), Anthropic и OpenAI. Это позволяет нам сопоставлять конкретные потребности каждой функции, например скорость, креативность, с нужной моделью, чтобы Microsoft Copilot мог предоставлять интеллектуальную помощь в режиме реального времени, которая позволяет пользователям развивать свои творческие способности, производительность и навыки. Дополнительные сведения о LLM, предоставляемых Microsoft OpenAI, см. в их общедоступной документации по адресу Models - OpenAI API.

Производительность

Во многих системах ИИ производительность часто определяется по отношению к точности, то есть к тому, как часто система ИИ предлагает правильный прогноз или результат. При использовании Microsoft Copilot два разных пользователя могут смотреть на одни и те же выходные данные и иметь разные мнения о том, насколько он полезен или актуален, а это означает, что производительность этих систем должна определяться более гибко. В целом производительность означает, что приложение работает так, как ожидают пользователи.

Принцип работы Microsoft Copilot

  • Microsoft Copilot получает запрос на ввод от пользователя в приложении, например Word или PowerPoint. Список поддерживаемых языков см. в разделе "Поддерживаемые языки для Microsoft Copilot".
  • Затем Microsoft Copilot обрабатывает запрос, что улучшает его специфичность, чтобы помочь пользователю получить ответы, релевантные и требующие действий для его конкретной задачи. Запрос может включать текст из входных файлов или другое содержимое, обнаруженное Microsoft Copilot с помощью Microsoft Graph, и Microsoft Copilot отправляет этот запрос в LLM для обработки. Microsoft Copilot получает доступ только к тем данным, к которым отдельный пользователь имеет существующий доступ, на основе, например, существующих элементов управления доступом на основе ролей Microsoft 365.
  • Microsoft Copilot получает ответ от LLM и обрабатывает его на постобработке. Эта постобработка включает другие вызовы граундинга в Microsoft Graph, ответственные проверки ИИ, такие как классификаторы содержимого, проверки безопасности, соответствия требованиям и конфиденциальности, а также генерирование команд.
  • Microsoft Copilot возвращает ответ в приложение, где пользователь может просмотреть и оценить ответ.

Хранимые данные о взаимодействии пользователей с Microsoft Copilot зашифрованы и не используются для обучения базовых моделей (включая те, которые используются Microsoft Copilot) от поставщиков моделей, таких как Microsoft (служба открытого ИИ Azure), Anthropic или OpenAI. Дополнительные сведения см. в разделе Данные, конфиденциальность и безопасность для Microsoft Copilot.

Как Microsoft Copilot создает ответы без веб-контента или данных организации

Microsoft Copilot не требует веб-контента или данных организации для предоставления ответа, но эта информация может помочь улучшить качество, точность и актуальность его ответа. При ответе без веб-данных или данных организации Microsoft Copilot полагается только на свои LLM для понимания запросов и генерации ответов. Этот процесс включает в себя анализ входных данных, использование внутренней база знаний модели и уточнение ответа, чтобы сделать его контекстно подходящим.

Ограничения

Понимание ограничений Microsoft Copilot имеет решающее значение для определения того, используется ли он в безопасных и эффективных границах. Хотя мы рекомендуем клиентам использовать Microsoft Copilot в своих инновационных решениях или приложениях, важно отметить, что Microsoft Copilot не был разработан для всех возможных сценариев. Мы рекомендуем пользователям при выборе варианта использования обратиться к Кодексу поведения Microsoft Enterprise AI Services Services (для организаций) или разделу Правил поведения в соглашение об использовании служб Майкрософт (для физических лиц), а также к следующим соображениям:

  • Достоверность информации: В то время как Copilot стремится предоставлять ответы, используя надежные источники, ИИ может совершать ошибки. Он потенциально может генерировать бессмысленный контент или фабриковать контент, который может звучать разумно, но фактически является неточным. Даже при получении ответов из авторитетных веб-данных ответы могут искажать это содержимое, что может быть не совсем точным, актуальным и ненадежным. Мы напоминаем пользователям в пользовательском интерфейсе и в подобной документации, что Copilot может совершать ошибки. Мы также продолжаем информировать пользователей об ограничениях ИИ, например поощряем их к двойной проверке фактов перед принятием решений или действиями на основе ответов Copilot. Когда пользователи взаимодействуют с Copilot посредством текста, он будет пытаться закрепиться на высококачественных веб-данных, чтобы снизить риск того, что поколения не имеют под собой оснований.

  • Соответствие ответов возрасту: Пользователям, которые были классифицированы как "Не взрослые" (подростки) ИТ-администратором организации , будут включены дополнительные средства защиты в определенных чатах Copilot. Однако то, что подходит для подростков, может варьироваться в зависимости от таких факторов, как возраст, география, культура, язык, индивидуальные обстоятельства и контекст. Copilot не всегда может полностью интерпретировать эти факторы, а его средства защиты для подростков не могут предотвратить любую неуместную или потенциально опасную реакцию. Подростки также могут сталкиваться с повышенным риском из-за определенных взаимодействий с ИИ из-за их возраста и стадии развития. Взрослые, которым доверяют, должны учитывать эти ограничения при принятии решения о том, как подросток использует Copilot, и могут отказаться от предоставления доступа или ограничить определенные функции или функции, если эти варианты доступны. Подростков следует поощрять разговаривать с доверенным взрослым или квалифицированным специалистом при использовании Copilot для деликатных или важных тем.

  • Совместимость: Хотя Microsoft Copilot предназначен для бесшовной работы с приложениями Microsoft 365, в определенных средах могут возникнуть ограничения или проблемы с совместимостью, особенно со сторонними (не Microsoft) приложениями, а также с настраиваемыми или нестандартными конфигурациями.

  • Настройка и гибкость: Хотя Microsoft Copilot можно адаптировать, существуют ограничения на то, насколько его можно настроить в соответствии с конкретными потребностями организации или рабочими процессами. Организации могут посчитать определенные функции или ответы жесткими или не полностью соответствовать организационным требованиям.

  • Зависимость от подключения к Интернету: работа Microsoft Copilot зависит от подключения к Интернету. Любые сбои в подключении могут повлиять на доступность и производительность службы.

  • Обучение и внедрение пользователей: Эффективное использование Microsoft Copilot требует, чтобы пользователи понимали его возможности и ограничения. Возможно, потребуется обучать пользователей эффективному взаимодействию со службой и получению от нее выгоды.

  • Ресурсоемкость: Запуск расширенных моделей ИИ требует значительных вычислительных ресурсов, что может повлиять на производительность, особенно в средах с ограниченными ресурсами. Пользователи могут столкнуться с задержками или проблемами с производительностью во время пиковой нагрузки.

  • Предвзятость, стереотипы и необоснованный контент: Несмотря на интенсивное обучение со стороны OpenAI и Anthropic и внедрение ответственных элементов управления ИИ корпорацией Майкрософт как по пользовательским подсказкам, так и по результатам LLM, службы ИИ подвержены ошибкам и вероятностны. Это затрудняет полную блокировку всего неприемлемого контента, что приводит к потенциальным предубеждениям, стереотипам или необоснованности контента, созданного ИИ. Дополнительные сведения об известных ограничениях контента, созданного ИИ, см. в следующих ресурсах:

  • Поддерживаемые языки: В настоящее время Microsoft Copilot поддерживает меньше языков, чем Microsoft 365. Если язык, который вы используете или запрашиваете в запросе, в настоящее время не поддерживается, вы получите сообщение об ошибке. Подробнее см. в разделе "Поддерживаемые языки для Microsoft Copilot".

  • Потенциальная значительная физическая или психологическая травма человека. Избегайте использования системы, которая может привести к серьезным физическим или психологическим травмам. Например, сценарии, в которых диагностируют пациентов или назначают лекарства, могут нанести значительный вред.

  • Последующее влияние на жизненные возможности или правовой статус. Избегайте использования или неправильного использования системы, которая может иметь последствия для жизненных возможностей или правового статуса. Примеры включают сценарии, в которых система ИИ может повлиять на правовой статус человека, его юридические права или его доступ к кредитам, образованию, трудоустройству, здравоохранению, жилью, страхованию, социальным пособиям, услугам, возможностям или условиям, на которых они предоставляются.

  • Области или отрасли с высокими ставками. Тщательно рассмотрите варианты использования в областях или отраслях с высокими ставками. Примеры включают, в частности, медицинские и финансовые проблемы.

Оценки

Оценки производительности и безопасности оценивают надежность и безопасность работы приложений ИИ путем изучения таких факторов, как обоснованность, релевантность и согласованность, а также выявляют риски создания вредоносного контента. Следующие оценки были проведены с уже существующими компонентами безопасности, которые также описаны в разделе «Компоненты безопасности и смягчение последствий».

Аттестация и оценка качества

Оценка производительности приложений ИИ необходима для повышения их надежности в реальных приложениях. Такие метрики, как релевантность ответов, точность и обоснованность, помогают оценить точность и согласованность выходных данных, созданных ИИ, чтобы они были фактически подкреплены в сценариях обоснованного контента, контекстно уместны и логически структурированы. Для Microsoft Copilot мы регулярно проводим тщательную оценку качества по нескольким показателям, таким как релевантность, точность и обоснованность.

Методы оценки производительности и качества

Microsoft Copilot оценивался с использованием текстовых сценариев и сценариев на основе изображений, которые отражают работу пользователей в приложениях Microsoft 365. При оценке таких показателей, как обоснованность, качество ответов и релевантность цитирования, использовались установленные методы LLM в качестве судьи. Автономные тестовые наборы включали фактические запросы, понимание нескольких документов, резюмирование и репрезентативные корпоративные сценарии. Оценщики оценивали, были ли ответы фактически обоснованы, контекстуально уместны и логически структурированы. Идеальные результаты отражают точное обоснование, четкие рассуждения и стабильную производительность во всех вариантах одной и той же задачи. Неоптимальные результаты включают необоснованные утверждения, отсутствующие или нерелевантные цитаты или непоследовательные результаты при аналогичных запросах.

Оценка рисков и безопасности

Оценка потенциальных рисков, связанных с контентом, созданным ИИ, имеет важное значение для защиты от рисков контента различной степени серьезности. Это включает оценку предрасположенности системы ИИ к созданию вредоносного контента или тестирование уязвимостей к атакам со стороны джейлбрейка. Для Microsoft Copilot приведены некоторые из проведенных нами оценок рисков и безопасности:

  • Ненависть и несправедливость
  • Сексуальные
  • Насилие
  • Членовредительство
  • Защищаемый материал
  • Непрямой джейлбрейк
  • Прямой джейлбрейк
  • Уязвимость кода
  • Необоснованные атрибуты

Методы оценки рисков и безопасности

При оценке рисков и безопасности использовались текстовые состязательные подсказки и автоматизированные классификаторы для оценки потенциального вреда, включая ненависть, сексуальное содержимое, насилие, членовредительство, утечку защищенных материалов, попытки взлома и необоснованные атрибуты. Тесты сочетали оценки LLM-judge с обнаружением на основе классификатора и ручным тестированием, где это было необходимо. Идеальные результаты перенаправляют или отклоняют потенциально опасные запросы и поддерживают согласованное соблюдение границ между вариантами запросов. Неоптимальные результаты включают создание вредоносного контента, непоследовательную реакцию на враждебные входные данные или демонстрацию восприимчивости к техникам джейлбрейка.

Компоненты безопасности и меры защиты

По мере того, как мы выявляли потенциальные риски и злоупотребления с помощью таких процессов, как тестирование красной команды, и измеряли их, мы разрабатывали меры по смягчению последствий для снижения потенциального вреда. В следующем списке описаны некоторые из этих мер по смягчению последствий. Мы продолжим оценивать возможности Microsoft Copilot, чтобы улучшать производительность продукта и меры по устранению рисков.

  • Поэтапное высвобождение, постоянная оценка. Мы стремимся постоянно изучать и совершенствовать наш подход к ответственному применению ИИ по мере развития наших технологий и поведения пользователей. Мы регулярно вносим изменения в Microsoft Copilot, чтобы повысить производительность продукта, улучшить существующие средства защиты и внедрить новые средства защиты в ответ на полученные знания.

  • Граундинг на основе бизнес-данных. Известный риск больших языковых моделей заключается в их способности генерировать необоснованный контент, который выглядит правильным, но отсутствует в исходных материалах. Важным средством устранения рисков в Microsoft Copilot является закрепление созданного ИИ контента в соответствующих бизнес-данных, к которым пользователь имеет доступ на основе своих разрешений. Например, на основе запроса Microsoft Copilot предоставляются соответствующие деловые документы, чтобы обосновать свой ответ на этих документах. Однако при резюмировании содержимого из различных источников Microsoft Copilot может включать в свой ответ сведения, отсутствующие в источниках входных данных. Другими словами, это может привести к необоснованным результатам. Пользователи всегда должны проявлять осторожность и руководствоваться здравым смыслом при использовании выходных данных Microsoft Copilot. Мы приняли ряд мер, чтобы снизить риск того, что пользователи могут чрезмерно полагаться на необоснованный контент, созданный ИИ. По возможности ответы в Microsoft Copilot, основанные на деловых документах, включают ссылки на источники, позволяющие пользователям проверить ответ и получить дополнительную информацию. Пользователям также предоставляется явное уведомление о том, что они взаимодействуют с системой ИИ, и рекомендуется провести проверку исходных материалов, чтобы помочь им использовать свое здравое суждение.

  • Классификаторы и метасуфлеры на основе ИИ для снижения потенциальных рисков или неправильного использования. Использование LLM может создать проблемный контент, который может нанести вред. Примеры могут включать выходные данные, связанные с членовредительством, насилием, графическим контентом, вопросами биобезопасности, защищенными материалами, неточной информацией, агрессивной речью или текстом, который может относиться к незаконной деятельности. Классификаторы, например доступные в Azure Безопасность содержимого ИИ и метасуфлеры, являются двумя примерами мер по смягчению последствий, которые были реализованы в Microsoft Copilot для снижения риска этих типов содержимого. Классификаторы классифицируют текст, чтобы помечать различные типы потенциально опасного содержимого в запросах или сгенерированных ответах. Microsoft Copilot использует классификаторы и фильтры содержимого на основе ИИ. Пометки ведут к потенциальным мерам по смягчению последствий, например, к невозврату сгенерированного контента пользователю или перенаправлению пользователя на другую тему. Корпорация Майкрософт предлагает определенные элементы управления фильтрацией содержимого для администраторов и пользователей, которым фильтрация потенциально опасного или конфиденциального содержимого в Microsoft Copilot Chat не соответствует их потребностям. Метасуфлинг включает в себя предоставление модели инструкций для управления ее поведением, в том числе для того, чтобы система вела себя в соответствии с принципами ИИ Майкрософт и ожиданиями пользователей. Например, метаподсказка может содержать такую строку, как «общаться на выбранном пользователем языке».

    Например, при обнаружении кризисного содержимого система отключается от беседы и вместо этого предоставляет ресурсы кризисной поддержки (например, горячую линию самоубийств и кризисных ситуаций по номеру 988 в США), побуждая пользователей обращаться за профессиональной помощью. Copilot не предоставляет консультации, и пользователям следует обратиться за профессиональной помощью, если у них возникают вредные или навязчивые мысли или проблемы с психическим здоровьем.

  • Быстрое обогащение. В некоторых случаях запрос пользователя может быть неоднозначным. Когда это происходит, Microsoft Copilot может использовать LLM для создания более подробной информации в запросе, чтобы пользователи могли получить нужный ответ. Такое быстрое обогащение зависит не от знаний пользователя или его предыдущих поисков, а от LLM.

  • Ориентированный на пользователя дизайн и вмешательство в пользовательский опыт. Ориентированный на пользователя дизайн и пользовательский опыт являются важным аспектом подхода Microsoft к ответственному ИИ. Цель состоит в том, чтобы укоренить дизайн продукта в потребностях и ожиданиях пользователей. Когда пользователи впервые взаимодействуют с Microsoft Copilot, мы предлагаем различные точки взаимодействия, призванные помочь им понять возможности системы, сообщить им, что Microsoft Copilot работает на базе искусственного интеллекта, и сообщить об ограничениях.

  • Раскрытие информации ИИ. Microsoft Copilot предоставляет несколько точек касания для значимого раскрытия информации ИИ, где пользователи уведомляются о том, что они взаимодействуют с системой ИИ, а также возможность узнать больше о Microsoft Copilot. Например, при использовании Microsoft Copilot в приложении Word контент, созданный ИИ, отображается вместе с уведомлением о том, что контент, созданный ИИ, может содержать ошибки. Предоставление пользователям этих знаний может помочь им избежать чрезмерной зависимости от результатов, созданных ИИ, и узнать о сильных и слабых сторонах системы.

  • Информация о происхождении носителей. Для всех изображений, созданных с помощью функций редактирования Designer в Microsoft Copilot, мы реализовали учетные данные для содержимого и происхождение на основе стандарта C2PA, чтобы помочь людям определить, были ли изображения изменены или сгенерированы с помощью ИИ. Метаданные происхождения можно просмотреть на сайте Content Credentials.

  • Отзывы и текущая оценка. Интерфейс Microsoft Copilot основан на существующих инструментах, которые позволяют пользователям отправлять отзывы о наших продуктах. Пользователи могут отправлять отзывы о содержимом, созданном Microsoft Copilot, с помощью панели, которая появляется после нажатия кнопок "Большой палец вверх" или "Большой палец вниз" в ответах. Отзывы, отправленные пользователями, используются для улучшения наших предложений, что является частью нашего обязательства по повышению производительности продукта. Администраторы клиентов могут просматривать отзывы, отправленные в Центр администрирования Microsoft 365. Мы также постоянно улучшаем и тестируем производительность Microsoft Copilot и конкретные средства защиты в рамках нашей постоянной оценки и улучшения службы. Дополнительные сведения см. в разделе Предоставление отзывов о Microsoft Copilot с приложениями Microsoft 365.

Наш подход к сопоставлению, измерению и управлению рисками будет продолжать развиваться по мере того, как мы узнаем больше, и мы уже вносим улучшения на основе отзывов, полученных от клиентов.

Рекомендации по развертыванию и внедрению Microsoft Copilot

Ответственный ИИ — это общее обязательство корпорации Майкрософт и ее клиентов. Хотя корпорация Майкрософт создает системы ИИ, в основе которых лежат безопасность, справедливость и прозрачность, клиенты играют важнейшую роль в развертывании и ответственном использовании этих технологий в своих условиях. Чтобы поддержать это партнерство, мы предлагаем следующие рекомендации для разработчиков и конечных пользователей, чтобы помочь клиентам эффективно внедрять ответственный ИИ.

Развертыватели и конечные пользователи должны:

  • Проявляйте осторожность и оценивайте результаты при использовании Microsoft Copilot для принятия важных решений или в конфиденциальных областях: Косвенные решения — это решения, которые могут оказать юридическое или значительное влияние на доступ человека к образованию, трудоустройству, финансовым услугам, государственным пособиям, здравоохранению, жилью, страхованию, юридическим услугам или привести к физическому, психологическому или финансовому ущербу. Чувствительные области, такие как финансовые услуги, здравоохранение и жилье, требуют особого внимания из-за потенциального непропорционального воздействия на различные группы людей. При использовании ИИ для принятия решений в этих областях убедитесь, что заинтересованные стороны могут понять, как принимаются решения, обжаловать решения и обновить все соответствующие входные данные.

  • Оценка правовых и нормативных аспектов: Клиентам необходимо оценить потенциальные конкретные юридические и нормативные обязательства при использовании любых служб и решений ИИ, которые могут не подходить для использования в каждой отрасли или сценарии. Кроме того, сервисы или решения ИИ не предназначены и не могут использоваться способами, запрещенными применимыми условиями предоставления услуг и соответствующими кодексами поведения.

  • Разрешить ссылки на веб-содержимое. Разрешение Microsoft Copilot ссылаться на веб-содержимое может повысить качество, точность и релевантность ответов Microsoft Copilot, если ответ может выиграть от использования текущей общедоступной информации из Интернета. Обратите внимание, однако, что когда Microsoft Copilot ссылается на веб-содержимое, он делает это через службу Поиск Bing, а методы обработки данных для запросов Поиска Bing отличаются от того, как данные обрабатываются Microsoft Copilot. Использование Bing регулируется Соглашением об использовании служб Майкрософт , заключенным каждым пользователем и корпорацией Майкрософт, а также Заявлением о конфиденциальности Майкрософт.

  • Расширение граундинга в Microsoft Graph. Microsoft Copilot использует данные из Microsoft Graph для закрепления ответов в определенных данных, таких как сообщения электронной почты, чаты, файлы и календари. Расширяя Microsoft Graph организационными данными из таких источников, как CRM-системы или внешние репозитории файлов, организации могут включать дополнительную контекстно-зависимую релевантную информацию, которая еще больше увеличивает полноту и точность ответов Microsoft Copilot.

Конечным пользователям следует:

Чтобы повысить производительность в отношении точности выходных данных Microsoft Copilot, мы рекомендуем организациям рассмотреть следующие вопросы:

  • Пишите хорошие запросы. Написание хороших запросов является ключом к достижению лучших результатов с помощью Microsoft Copilot. Точно так же, как существуют методы, помогающие эффективно общаться с человеком, существуют рекомендации, которые могут помочь пользователям получить лучшие результаты с Microsoft Copilot при написании запросов. Например: включайте детали, структурируйте запросы, предоставляйте положительные инструкции, повторяйте и генерируйте, а также всегда просматривайте и проверяйте ответы, сгенерированные ИИ. Подробнее см. в статье "Получение лучших результатов с помощью запросов Copilot".

  • При необходимости осуществляйте человеческий контроль: Человеческий контроль является важной мерой защиты при взаимодействии с системами ИИ. Хотя мы постоянно совершенствуем наши системы ИИ, ИИ все еще может совершать ошибки. Полученные выходные данные могут быть неточными, неполными, предвзятыми, несогласованными или не соответствующими намеченным целям. Это может произойти по разным причинам, таким как неоднозначность входных данных или ограничения базовых моделей. Таким образом, пользователи должны просмотреть ответы, созданные Microsoft Copilot, и убедиться, что они соответствуют их ожиданиям и требованиям.

  • Помните о риске чрезмерной зависимости: Чрезмерная зависимость от ИИ происходит, когда пользователи принимают неправильные или неполные выходные данные ИИ, в основном потому, что ошибки в выходных данных ИИ трудно обнаружить. Для конечного пользователя чрезмерная зависимость может привести к снижению производительности, потере доверия, отказу от продукта, финансовым потерям, психологическому вреду, физическому вреду и т.д. (например, врач принимает неправильные выходные данные ИИ). Что касается Microsoft Copilot, мы помогаем снизить этот риск, добавляя заявления об отказе в наши продукты, но пользователи по-прежнему должны проверять точность ответов.

  • Проявляйте осторожность при разработке агентного ИИ в конфиденциальных областях: Пользователям следует проявлять осторожность при проектировании и развертывании агентных систем ИИ в чувствительных областях, где действия агентов необратимы или имеют серьезные последствия. При создании автономного агентного ИИ также следует принимать дополнительные меры предосторожности, как описано далее в Кодексе поведения Microsoft Enterprise AI Services (для организаций) или в разделе Правила поведения в Соглашении об использовании служб Microsoft (для физических лиц).

  • Руководство для подростков и взрослых, которым можно доверять. Взрослые, которым доверяют, должны помочь подросткам понять, что Copilot — это система ИИ, которая может совершать ошибки. Copilot не заменит человеческое суждение, человеческие отношения или профессиональную поддержку. Подростки должны проверять важную информацию, прежде чем полагаться на ответ Copilot, и привлекать взрослого, которому можно доверять, если разговор запутанный, деликатный, тревожный или может повлиять на здоровье, безопасность, отношения, образование или финансы. Подростки не должны делиться паролями, точным местоположением, финансовыми данными, медицинскими записями или другой конфиденциальной личной информацией о себе или других. Если Copilot предоставляет контент, не соответствующий возрасту, потенциально опасный или вызывающий беспокойство, подростки должны прекратить взаимодействие, обратиться за помощью к взрослому или квалифицированному специалисту, которому можно доверять, и использовать доступный инструмент обратной связи в Copilot или сообщить о проблеме , чтобы сообщить о полученном ответе. Отчеты должны включать соответствующий контекст, который поможет Майкрософт понять, что произошло, но не должны включать пароли, учетные данные учетной записи и другие конфиденциальные личные сведения.

Сотрудники развертывания должны:

Корпорация Майкрософт предоставляет такие инструменты, как панель мониторинга Microsoft Copilot для клиентов Microsoft 365, а также отчеты в Центре администрирования Microsoft 365. Эти инструменты предназначены для того, чтобы помочь организациям измерить использование, внедрение и влияние Microsoft Copilot. Пример:

  • Отчет об использовании Microsoft Copilot позволяет администраторам просматривать сводку о том, как происходит внедрение, удержание и взаимодействие пользователей с Microsoft Copilot для управления лицензиями и их оптимизации. Подробнее см. в статье Использование Microsoft Copilot.
  • Панель мониторинга Microsoft Copilot предоставляет руководителям, аналитикам и делегатам доступ к предварительно созданным отчетам об использовании Microsoft Copilot и Copilot Chat в масштабах организации для оценки внедрения и воздействия. Дополнительные сведения см. в разделе "Подключение к панели мониторинга Microsoft Copilot" для клиентов Microsoft 365.
  • Влияние Copilot на бизнес доступно в Viva Insights позволяет аналитикам сравнивать использование Microsoft Copilot с бизнес-метриками, чтобы понять ценность для бизнеса. Подробнее см. в отчете Copilot о влиянии на бизнес.

Подробнее о Microsoft Copilot

Дополнительные рекомендации по ответственному использованию Microsoft Copilot рекомендуется найти в следующей документации:

Подробнее об ответственном применении ИИ

  • Последнее обновление: