Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
Important
- Это функция предварительной версии, предоставляемая в рамках Условий использования продуктов Майкрософт.
- Предварительные версии функций могут иметь ограничения и могут не войти в общедоступную версию. Эти функции доступны до официального выпуска, чтобы клиенты могли получать ранний доступ и предоставлять отзывы.
- Ранний доступ предоставляется только при участии в программе предварительной версии Frontier . Frontier напрямую связывает вас с последними инновациями ИИ Корпорации Майкрософт. Предпросмотры Frontier подчиняются существующим условиям предварительного просмотра в рамках ваших клиентских соглашений. Так как эти функции еще находятся в разработке, их доступность и возможности могут со временем меняться.
Что такое карта приложения или платформы?
Карточки приложений и платформ майкрософт предназначены для того, чтобы помочь вам понять, как работает наша технология ИИ, как владельцы приложений могут повлиять на производительность и поведение приложения, а также важность рассмотрения всего приложения, включая технологию, людей и среду. Карточки приложений создаются для приложений ИИ, а карточки платформы — для служб платформы ИИ. Эти ресурсы могут поддерживать разработку или развертывание собственных приложений и предоставляться пользователям или заинтересованным лицам, на которые они влияют.
В рамках своей приверженности ответственному использованию ИИ корпорация Майкрософт придерживается шести основных принципов: справедливости, надежности и безопасности, конфиденциальности и безопасности, инклюзивности, прозрачности и подотчетности. Эти принципы внедрены в Standard ответственного ИИ, который помогает командам проектировать, создавать и тестировать приложения ИИ. Карточки приложений и платформ играют ключевую роль в практическом применении этих принципов, обеспечивая прозрачность в отношении возможностей, предполагаемого использования и ограничений. Для получения дополнительных сведений читателям рекомендуется ознакомиться с отчетом Майкрософт об ответственной прозрачности ИИ и Кодексом поведения служб ИИ Microsoft Enterprise, в котором показано, как ответственно взаимодействовать с ИИ.
Overview
Вкладка Код в Microsoft Copilot — это агент с использованием искусственного интеллекта, который преобразует то, что вы опишете, в рабочее программное обеспечение. Вы описываете результат на естественном языке — панель мониторинга, внутреннее средство, статический веб-сайт, преобразование данных или скрипт, а Copilot Code создает его, отображает предварительный просмотр в реальном времени на холсте и дорабатывает вместе с вами, пока всё не заработает. Вам не нужно знать, как кодировать. Copilot Code может работать на вашем устройстве (локально) или в защищенной изолированной среде в облаке.
Copilot Code предназначен для специалистов по работе с информацией, у которых есть идеи, данные и повторяющиеся рабочие процессы, но нет собственной среды разработки. Он пишет и запускает программное обеспечение от вашего имени, использует ваш рабочий контекст Microsoft 365, если вы это разрешите, и запрашивает разрешение, прежде чем выполнять действия, которые выходят за рамки выбранной папки проекта.
Copilot Code доступен как часть Microsoft Copilot. Дополнительные сведения см. в статье Обзор Copilot Code.
Ключевые термины
В следующей таблице определены ключевые термины, связанные с кодом Copilot.
| Срок | Description |
|---|---|
| Agent | Компонент, основанный на искусственном интеллекте, который автоматизирует и выполняет задачи от имени пользователя на основе инструкций на естественном языке. Copilot Code — это агент, который создает и запускает программное обеспечение. |
| Проект | Программный артефакт, создаваемый Copilot Code, и составляющие его файлы. Проект сохраняется на устройстве (локально) или в облаке, а его разговор связывается с ним. |
| Холст | Визуальная рабочая область рядом с беседой, где отображается предварительный просмотр артефакта в реальном времени и вы можете переключиться на представление кода, чтобы просмотреть и изменить созданные файлы. |
| Местное развитие | Режим, в котором Copilot Code выполняется на вашем устройстве и работает в выбранной папке проекта. |
| Облачная разработка | Режим, в котором Copilot Code работает, а ваш проект находится в безопасной изолированной среде в облаке. |
| Запрос согласия | Диалоговое окно, в котором Copilot Code запрашивает разрешение перед доступом к расположению вне выбранной папки, делает сетевое подключение или выполняет команду. Запросы написаны на простом языке. |
| Плагин | Пакет, распределенный через Microsoft 365 App Store, который подключает Copilot Code к внешним источникам данных и службам. Copilot Code использует те же подключаемые модули, что и в Cowork. |
| Рабочий контекст | Ваши данные Microsoft 365 — документы, сообщения электронной почты, собрания и календарь, — которые Copilot Code может использовать в качестве контекста в своей работе с вашего разрешения и при использовании (рабочей) учетной записи организации. |
| подключение GitHub | Необязательная ссылка на вашу учетную запись GitHub, позволяющая Copilot Code работать с репозиториями, отвечать на вопросы о вашем коде и открывать запросы на вытягивание. |
| Automation | Задачи, которые Copilot Code выполняет по расписанию, настроенному на панели "Автоматизации". |
Ключевые функции или возможности
Основные функции и возможности, приведенные ниже, описывают, для чего предназначен Copilot Code.
| Feature | Description |
|---|---|
| Создавайте на основе естественного языка | Copilot Code превращает описание результата в рабочий артефакт программного обеспечения, например приложение, панель мониторинга, статический веб-сайт, преобразование данных, автоматизацию или скрипт. |
| Уточняющие вопросы | Перед созданием код Copilot может задать несколько вопросов, чтобы уточнить, что вы хотите и как это должно выглядеть. |
| Предварительный просмотр в реальном времени и режим кода | На холсте показан предварительный просмотр в реальном времени статического веб-сайта или веб-приложения по мере его создания. Вы можете переключиться в представление кода, чтобы просмотреть и изменить созданные файлы, а также выбрать элемент на холсте, чтобы сфокусировать следующий запрос на нём. |
| Итерация и отмена изменений | Вы уточняете результат, описывая изменения в беседе. Вы можете вернуться к более ранней версии в любое время. Если на каком-либо этапе возникает ошибка, Copilot Code пытается устранить ее и простым языком объясняет, что произошло. |
| Локальное или облачное выполнение | Copilot Code может запускать проект на вашем устройстве или в защищенной изолированной среде в облаке. |
| Импорт файлов и данных | Вы можете загружать или перетаскивать файлы (CSV, электронные таблицы, изображения, документы, PDF-файлы и презентации), вставлять текст и (для локальных проектов) открывать существующую папку для работы с Copilot Code. |
| Интеграция рабочего контекста | С вашего разрешения Copilot Code использует ваши рабочие данные Microsoft 365 — документы, сообщения электронной почты, собрания и календарь — в качестве контекста для того, что он создает. Для этого используется ваша (рабочая) учетная запись организации. |
| Подключаемые модули и средства | Copilot Code использует те же подключаемые модули, что и Cowork, для подключения к внешним источникам данных и службам, а также такие инструменты, как веб-поиск и создание изображений, с учетом политик вашей организации. |
| Интеграция с GitHub | При необходимости можно подключить учетную запись GitHub для быстрого старта из репозитория, задать вопросы о коде, создать ветви и коммиты, открыть черновики pull request и просмотреть их состояние, создать репозиторий и отслеживать проблемы, pull request и запросы на проверку в My Work. |
| Automations | Вы можете настроить задачу, которая выполняется по расписанию, на панели автоматизации. |
| Поделиться и экспортировать | Вы можете поделиться статическим приложением по ссылке, доступной только в пределах вашей организации, и экспортировать проект в виде файла .zip. |
| Выбор модели | Вы можете выбрать модель, которую Copilot Code использует для вашего проекта, или позволить Copilot Code выбрать её. |
| Элементы управления согласием | Copilot Code запрашивает ваше разрешение, прежде чем получить доступ к расположениям за пределами выбранной папки проекта, установлением сетевых подключений или выполнением команд. Запросы на согласие написаны на простом языке. |
В качестве агентического приложения ИИ Copilot Code демонстрирует следующие характеристики агента:
- Планирование: Copilot Code разлагает описание на естественном языке на шаги, необходимые для сборки программного обеспечения, и последовательно выполняет их, показывая ход выполнения.
- Адаптируемость: Вы можете направлять Copilot Code с помощью обратной связи во время сеанса, и он адаптирует свой подход, включая возврат к более ранней версии.
- Расширяемость: возможности Copilot Code расширяются с помощью подключаемых модулей из Microsoft 365 App Store, соединителей к внешним источникам данных и необязательного подключения GitHub.
- Память (в рамках разговора): в разговоре проекта Copilot Code сохраняет контекст между этапами и сообщениями. Согласие, предоставленное во время сеанса, применяется к такому сеансу. Контекст не сохраняется в отдельных беседах.
Целевое назначение
Copilot Code предназначен для специалистов по работе с информацией, которые используют Microsoft 365 и хотят превращать идеи, данные и повторяющиеся рабочие процессы в работающее программное обеспечение без среды разработки. Ниже приведены некоторые примеры вариантов использования:
- Панели мониторинга и представления данных: Создайте панель мониторинга, которая отслеживает метрики из данных, например еженедельные регистрации по каналу.
- Внутренние инструменты: Создайте средство отслеживания, форму или калькулятор для рабочего процесса команды, например для инвентаризации или трекера согласований.
- Статические веб-сайты и целевые страницы: Создание простого сайта или целевой страницы для тестирования идеи.
- Преобразования данных и скрипты: Преобразуйте повторяющийся ручной процесс, например перестроение отчета из нескольких источников, в многократно используемый скрипт.
- Работа с существующими репозиториями: Подключите учетную запись GitHub, чтобы задавать вопросы о репозитории, вносить изменения и открыть черновик pull request.
Область агента: код Copilot работает в границах разрешений Microsoft 365 и выбранной папки проекта. Он создает и запускает программное обеспечение по вашим инструкциям и запрашивает утверждение, прежде чем обращаться к файлам за пределами выбранной папки, устанавливать сетевое подключение или выполнять команды. Он выполняет такие действия только по вашим указаниям или с вашего разрешения.
Copilot Code не предназначен для сценариев использования, требующих гарантированной точности без проверки со стороны человека, или для разработки программного обеспечения для применения, имеющего существенные последствия или критически важного для безопасности, без соответствующего тестирования и контроля со стороны человека.
Модели и обучающие данные
Copilot Code использует модели ИИ для обеспечения работы интерфейса, который видят пользователи. Вы можете выбрать одну из нескольких моделей, включая варианты Claude Opus и Claude Sonnet и Claude Haiku от Anthropic, а также модели GPT, размещенные и управляемые Microsoft, или разрешить Copilot Code выбрать для вас модель. Модели Anthropic предоставляются Microsoft как дополнительному обработчику данных. Дополнительные сведения см. Anthropic в качестве субобработчика для Microsoft Online Services и Понимание функциональных возможностей ИИ и моделей в Microsoft Online Services.
Запросы, ответы и данные, полученные через Microsoft Graph, не используются для обучения базовых больших языковых моделей (LLM), в том числе моделей, используемых в Microsoft Copilot. В облачном режиме данные организации остаются в пределах Microsoft 365 и подчиняются существующим политикам управления данными вашей организации. Однако в локальном режиме данные могут храниться также в локальном устройстве при условии согласия администратора. Подробнее об обработке данных см. Данные, конфиденциальность и безопасность для Microsoft Copilot.
Performance
Copilot Code предназначен для создания рабочего программного обеспечения, которое отражает намерение пользователя. Эффективность оценивается на основе того, создает ли Copilot Code функционирующий артефакт, соответствующий запросу, и правильно ли он выполняет итерации на основе обратной связи.
Поддерживаемые модальности
- Входные данные: Текстовые запросы от пользователей, вставленный текст и вложенные файлы (CSV, электронные таблицы, изображения, документы, PDF-файлы и презентации) до 200 МБ на файл. Для локальных проектов Copilot Code также может считывать файлы в выбранной папке.
-
Выходные данные: Запущенный программный артефакт, показанный в рабочей области, созданный исходный код, файлы, сохраненные на вашем устройстве или в облаке, а также — когда вы подключаете GitHub, — ветви, коммиты и черновики pull request. Вы можете поделиться статическим приложением по ссылке, доступной только в пределах вашей организации, и экспортировать проект в виде файла
.zip.
Как Copilot код обрабатывает запросы
- Copilot Код получает описание нужного результата на естественном языке.
- Copilot код может задавать уточняющие вопросы, а затем планировать шаги, необходимые для создания артефакта.
- Copilot Code создает и запускает программное обеспечение, отображая ход работы и предварительный просмотр результата на холсте в реальном времени. Вы можете переключиться в режим кода, чтобы увидеть созданные файлы.
- Прежде чем обращаться к расположению за пределами выбранной папки, устанавливать сетевое подключение или выполнять команду, Copilot Code простым языком запрашивает утверждение вами.
- Вы просматриваете результат, уточняете его с помощью беседы и сохраняете, делитесь или экспортируете проект.
Условия для надежной работы
- Copilot Code работает наиболее эффективно, когда вы четко описываете желаемый результат, указываете, для кого он предназначен и какие данные следует использовать.
- Copilot Code может получить доступ только к данным и службам, которые ваша учетная запись Microsoft 365 имеет право использовать, а для локальных проектов — к папке, которую вы выбираете, а также ко всем утвержденным расположениям.
- Поддержка предварительного просмотра зависит от типа артефакта и устройства.
- Производительность может снизиться для сложных проектов с большим количеством взаимозависимостей.
Многоязычные возможности
- Код CCopilot доступен во всех поддерживаемых языках Copilot. Поддержка дополнительных языков основана на базовых возможностях модели и доступности службы Microsoft 365. Дополнительные сведения о поддерживаемых языках см. в разделе Поддерживаемые языки для Microsoft Copilot.
Limitations
Понимание ограничений Copilot Code имеет решающее значение для определения того, используется ли он в безопасных и эффективных рамках. Хотя мы рекомендуем клиентам использовать код Copilot в своих инновационных решениях или приложениях, важно отметить, что Copilot код не был разработан для каждого возможного сценария. Мы рекомендуем пользователям ссылаться на Кодекс поведения служб искусственного интеллекта Майкрософт (для организаций) или раздел "Кодекс поведения" в соглашении об услугах Майкрософт (для отдельных лиц), а также следующие рекомендации при выборе варианта использования:
Интерпретация инструкций: Copilot Code может неправильно интерпретировать неоднозначные или слишком общие описания и создать программное обеспечение, которое не будет соответствовать вашему намерению. Предоставляйте четкие, конкретные запросы для улучшения результатов.
Точность созданного кода: Код и артефакты, созданные ИИ, должны рассматриваться как черновики. Проверяйте результаты работы Copilot Code, прежде чем полагаться на них, делиться ими или использовать их в рабочей среде. Copilot Code может выдавать неточные результаты, особенно если исходные данные неполные или устаревшие.
Сложность проекта: сложные проекты со многими зависимостями могут не всегда собираться должным образом. Отслеживайте ход выполнения, выполняйте итерацию в небольших шагах и вернитесь к более ранней версии при необходимости.
Поддержка предварительного просмотра: Предварительный просмотр зависит от типа артефакта и устройства. Например, некоторые артефакты не могут быть предварительно просмотрированы на каждой платформе.
Границы разрешений: Copilot Code зависит от существующих разрешений Microsoft 365 и папки, выбранной для локальных проектов. Он не может получить доступ к данным, службам и расположениям, на использование которых вы не давали разрешения.
Поддержка платформ и устройств: Copilot Code работает в настольном приложении Microsoft Copilot для Windows и Mac, а также в веб-версии для облачной разработки. Мобильное приложение недоступно в этой версии, а доступность функций может отличаться в зависимости от платформы.
Пользовательские скиллы и подключаемые модули: Подключаемые модули и соединители предоставляются сторонними издателями и не проверяются Microsoft. Внимательно просматривайте выходные данные из подключаемых модулей, так как качество зависит от того, кто их опубликовал.
Предвзятость, стереотипы и необоснованное содержимое: несмотря на средства контроля ответственного применения ИИ, содержимое и код, созданные с помощью ИИ, все еще могут содержать предвзятые суждения, стереотипы или необоснованную информацию. Ознакомьтесь с тем, что создает Copilot Code, прежде чем полагаться на него. Дополнительные сведения об известных ограничениях содержимого, созданного с помощью ИИ на основании моделей Anthropic, см. в разделе Документация по дополнительному обработчику данных Anthropic.
Потенциальная серьезная физическая или психологическая травма человека: Избегайте использования или неправильного использования системы, которое может привести к серьезной физической или психологической травме человека. Например, создание программного обеспечения для диагностики пациентов или назначения лекарственных препаратов может привести к серьезным последствиям.
Существенное влияние на жизненные возможности или правовой статус: не используйте систему и не допускайте ее использования способами, которые могут существенно повлиять на жизненные возможности или правовой статус людей. К таким примерам относится программное обеспечение, которое может повлиять на правовой статус или права человека, а также на его доступ к кредитованию, образованию, трудоустройству, медицинскому обслуживанию, жилью, страхованию, социальным пособиям, услугам и возможностям либо на условия их предоставления.
Evaluations
Оценка производительности и безопасности позволяет определить, насколько надежно и безопасно работает Copilot Code. При этом проверяется, например, корректность и работоспособность создаваемого программного обеспечения, а также выявляются риски создания вредоносного содержимого или выполнения несанкционированных действий. Следующие оценки были проведены с уже имеющимися компонентами безопасности, которые также описаны в разделе Компоненты безопасности и меры по устранению рисков.
Оценка производительности и качества
Оценки производительности Copilot Code необходимы для повышения надежности его работы в реальных условиях. Мы регулярно проводим оценки эффективности в следующих областях:
- Является ли созданный код синтаксически правильным.
- Соответствует ли функция созданного артефакта запросу пользователя.
- Качество результата с точки зрения пользовательского опыта.
Методы оценки производительности и качества
Наши оценочные данные специально созданы для оценки производительности приложений ИИ в ключевых областях безопасности и качества, имитируя реальные сценарии и риски. Начнем с выявления соответствующих аспектов оценки озабоченности на основе многодисциплинарных исследований и экспертных данных. Эти проблемы претворяются в целевые цели оценки и определяют определение метрик оценки. Для безопасности мы создаем состязательные запросы для получения нежелательных или пограничных ответов, которые затем оцениваются с помощью аннотаторов, обученных с помощью искусственного интеллекта оценивать соответствие стандартам безопасности компании Microsoft. Для оценки качества мы разрабатываем запросы с четкими критериями оценки, учитывающие сценарии создания кода и работы агентов. Наборы данных формируются из различных источников, включая синтетические и общедоступные наборы данных, чтобы имитировать реальные пользовательские сценарии. Используя проверенные наборы данных, оба оценочных процесса проходят итеративное уточнение и согласование с учетом человеческого фактора для обеспечения эффективности и надежности метрик.
Copilot Code оценивали с использованием сценариев, отражающих то, как специалисты по работе с информацией создают программное обеспечение, например разрабатывают панели мониторинга, внутренние инструменты, статические сайты и преобразования данных. Оценщики оценили, был ли созданный код корректным и выполнялся ли он, соответствовал ли артефакт запросу и оставался ли результат устойчивым в разных вариантах одной и той же задачи. Идеальные результаты отражают функциональное программное обеспечение, соответствующее запросу; Неоптимальные результаты включают код, который не выполняется, отсутствуют функции или результаты, которые не соответствуют намерению.
Пользовательские оценки
Помимо стандартных метрик, Copilot Code был оценен с помощью пользовательских метрик, характерных для его агентических возможностей создания кода:
- Успешное построение (создал ли Copilot Code работоспособный артефакт).
- Соответствие запроса (соответствует ли результат намерениям пользователя).
- Точность итераций (корректно ли Copilot Code применял запрошенные изменения и выполнял их откат).
Оценки рисков и безопасности
Оценка потенциальных рисков, связанных с контентом и действиями, созданными ИИ, имеет важное значение для защиты от рисков различной степени серьёзности. Это включает оценку склонности Copilot Code к созданию вредоносного содержимого или кода, а также проверку его уязвимости к джейлбрейк-атакам и выполнению несанкционированных действий. Были проведены следующие оценки рисков и безопасности:
- Ненависть и несправедливость
- Содержимое сексуального характера
- Насилие
- Причинение себе вреда
- Защищаемый материал
- Небезопасная или вредоносная генерация кода
- Непрямой джейлбрейк
- Прямая джейлбрейк-атака
- Несанкционированное выполнение действий
Методы оценки рисков и безопасности
Оценки рисков и безопасности использовали состязательные запросы и автоматизированные классификаторы для оценки потенциальных вреда. Тесты сочетали оценки LLM-judge с обнаружением на основе классификатора и ручным тестированием, где это было необходимо. Дополнительные оценки, относящиеся к способности Copilot Code выполнять действия, проверяли, можно ли манипулировать агентом так, чтобы он генерировал небезопасный код или выполнял действия — получал доступ к файлам, устанавливал сетевые подключения или выполнял команды — без обязательного согласия. В идеале система перенаправляет небезопасные запросы или отказывает в их выполнении, сохраняя границы согласия при различных формулировках запросов. Неоптимальные результаты включают создание вредного или небезопасного содержимого или выполнение действий без надлежащего утверждения.
Компоненты безопасности и меры по устранению рисков
По мере того, как мы выявляли потенциальные риски и злоупотребления с помощью таких процессов, как тестирование красной команды, и измеряли их, мы разрабатывали меры по смягчению последствий для снижения потенциального вреда. В следующем списке описаны некоторые из этих мер по смягчению последствий. Мы продолжаем оценивать код Copilot для повышения производительности продукта и разработки мер по снижению рисков.
Согласие на действия, которые выходят за рамки папки проекта. Основным механизмом безопасности Copilot Code является модель согласия. При выборе папки для работы Copilot Code может читать и записывать данные в этой папке; доступ к любому другому расположению, создание сетевого подключения или выполнение команды требуют вашего явного одобрения. Запросы на согласие написаны на простом языке.
Настраиваемая изоляция для выполнения кода. Copilot Code запускает созданное программное обеспечение с настраиваемыми уровнями изоляции и принудительного выполнения. Администраторы могут настроить уровень принудительного применения для своей организации.
Границы разрешений. Copilot Code работает строго в рамках ваших существующих разрешений Microsoft 365 и выбранной вами папки. Он не может получить доступ к данным, службам или ресурсам, на использование которых вы не давали разрешения, что помогает предотвратить повышение привилегий.
Согласие в рамках диалога. Согласие, предоставленное вами во время сеанса, действуют только в рамках этого сеанса и не сохраняется для отдельных разговоров. Это ограничивает возможные последствия непреднамеренного предоставления разрешений.
Классификаторы и фильтрация содержимого на основе ИИ. Copilot Code использует классификаторы на основе ИИ и фильтры содержимого для выявления и блокирования потенциально вредного содержимого в запросах пользователей и созданных ответах, включая фильтры для речи ненависти, насилия, сексуального содержимого, самоповреждения и защищенного материала.
Метапромптинг. Системные инструкции направляют поведение Copilot Code в соответствии с принципами ИИ Microsoft и ожиданиями пользователей, включая инструкции по отклонению неуместных запросов и предотвращению создания небезопасного или вредоносного кода.
Дизайн, ориентированный на пользователя, и прозрачность. Copilot Code показывает каждый шаг в процессе работы и отображает предварительный просмотр в реальном времени, что делает действия агента прозрачными, чтобы вы могли определить, когда он движется в нежелательном направлении.
Возможность аудита. Copilot Code регистрирует действия, которые он выполняет, созданный код, выполненные команды и прочитанные или записанные файлы, и эти журналы доступны ИТ-администраторам, предоставляя возможность трассировки от запроса пользователя к действию и его результату.
Административные настройки. Администраторы могут включать или отключать код Copilot и определенные функции, применять политику на уровне организации, ограничивать подключения к учетной записи GitHub и устанавливать ограничения расходов на пользователя. Использование учитывается в рамках вашего объема обслуживания Microsoft Copilot.
Механизмы обратной связи. Пользователи могут оценивать результаты с помощью кнопок "палец вверх" или "палец вниз". При отрицательной оценке можно добавить комментарий. Эти отзывы используются для оценки и повышения качества и безопасности Copilot Code.
Меры кибербезопасности. Copilot Code реализует методики кибербезопасности, включая зашифрованную передачу данных, безопасную аутентификацию через Microsoft Entra ID и соблюдение жизненного цикла безопасной разработки Microsoft. В облачном режиме данные вашей организации остаются в Microsoft 365 и подпадают под действие существующих политик управления данными вашей организации. Однако в локальном режиме данные также могут храниться на локальном устройстве при наличии согласия администратора. Для выявления и устранения потенциальных уязвимостей проводятся регулярные аудиты безопасности и анализы моделей угроз.
Рекомендации по развертыванию и использованию Copilot Code
Ответственный ИИ — это общее обязательство корпорации Майкрософт и ее клиентов. Хотя корпорация Майкрософт создает приложения ИИ и службы платформы с безопасностью, справедливостью и прозрачностью, клиенты играют важную роль в развертывании и использовании этих технологий в своих собственных контекстах. Чтобы поддержать это партнерство, мы предлагаем следующие рекомендации для разработчиков развертывания и конечных пользователей, которые помогут клиентам эффективно реализовать ответственный ИИ.
Развертывающие и конечные пользователи должны:
Соблюдайте осторожность и оценивайте результаты работы Copilot Code, если используете его для принятия важных решений или в чувствительных областях. К решениям, имеющим серьезные последствия, относятся решения, которые могут повлиять на правовой статус человека или существенно ограничить его доступ к образованию, трудоустройству, финансовым платформам, государственным пособиям, медицинскому обслуживанию, жилью, страхованию или юридическим платформам, а также привести к физическому, психологическому или финансовому ущербу. Конфиденциальные области, такие как финансовые платформы, здравоохранение и жилье, требуют особого ухода из-за возможности непропорционального воздействия на различные группы людей. При использовании ИИ для принятия решений в этих областях убедитесь, что затронутые заинтересованные лица могут понять, как принимаются решения, обжаловать решения и обновить все соответствующие входные данные.
Оцените юридические и нормативные аспекты. Клиентам необходимо оценить потенциальные конкретные юридические и регуляторные требования при использовании любых платформ и решений ИИ, которые могут не подходить для использования в каждой отрасли или сценарии. Кроме того, платформы или решения ИИ не предназначены для использования и не могут использоваться способами, запрещенными применимыми условиями обслуживания и соответствующими правилами поведения.
Специалисты по развертыванию должны:
Настройте доступ и элементы управления соответствующим образом. Используйте доступные административные средства управления, чтобы определять, какие пользователи могут получать доступ к Copilot Code, какие функции доступны, какие действуют ограничения подключений к GitHub и какие установлены лимиты расходов для каждого пользователя. Рассмотрите возможность начать с пилотной группы, прежде чем выполнять более широкое развертывание.
Познакомить пользователей с моделью согласия. Убедитесь, что пользователи понимают, что они отвечают за проверку и утверждение того, к чему Copilot Code получает доступ, к чему подключается и что запускает, и что код, созданный ИИ, следует рассматривать как черновик, который нужно протестировать перед использованием.
Проверьте использование подключаемых модулей. Прежде чем сделать их доступными, оцените подключаемые модули. Узнайте, к каким данным обращается каждый плагин и какие действия он может выполнять.
Отслеживайте использование, журналы аудита и отзывы. Просмотрите журналы аудита и отзывы пользователей, чтобы определить шаблоны, распространенные проблемы или области, в которых может потребоваться дополнительное руководство.
Конечные пользователи должны:
При необходимости осуществляйте человеческий контроль. Человеческий надзор является важной мерой предосторожности при взаимодействии с приложениями ИИ. В то время как мы постоянно совершенствуем наши приложения ИИ, ИИ по-прежнему может ошибаться. Созданные выходные данные могут быть неточными, неполными, предвзятыми, несоответственными или не имеющими отношения к поставленным целям. Таким образом, просмотрите и протестируйте то, что создает Copilot Code, и убедитесь, что это соответствует вашим ожиданиям и требованиям.
Помните о риске чрезмерной зависимости. Чрезмерная зависимость от искусственного интеллекта возникает, когда пользователи принимают неправильные или неполные ответы ИИ, в основном потому что ошибки трудно обнаружить. Для кода и программного обеспечения это особенно важно: проверяйте созданные Copilot Code решения, прежде чем полагаться на них, делиться ими или использовать их в рабочей среде.
Соблюдайте осторожность при использовании кода в чувствительных областях. Соблюдайте дополнительные меры предосторожности при создании программного обеспечения, действия которого необратимы или имеют серьезные последствия, как далее описано либо в Microsoft Enterprise AI Services Code of Conduct (для организаций), либо в разделе "Кодекс поведения" в соглашение об использовании служб Майкрософт (для отдельных лиц).
Предоставьте четкие и конкретные инструкции. Укажите, какой результат вы хотите получить, для кого он предназначен и какие данные следует использовать. Чем конкретнее инструкция, тем лучше результат.
Внимательно просмотрите запросы на согласие. Прежде чем разрешить доступ к расположению, сетевое подключение или выполнение команды, убедитесь, что вы понимаете, что именно разрешаете, и действительно хотите это сделать.
Регулярно предоставляйте обратную связь. Используйте кнопки «Нравится» и «Не нравится» и комментарии, чтобы со временем помочь улучшить работу Copilot Code.
Дополнительные сведения о Copilot Code
Для получения дополнительных рекомендаций или получения дополнительных сведений об ответственном использовании кода Copilot рекомендуется ознакомиться со следующей документацией: