Карта приложения: Управление состоянием безопасности данных Microsoft Purview

Что такое карточка приложения или платформы?

Карточки приложений и платформ майкрософт предназначены для того, чтобы помочь вам понять, как работает наша технология ИИ, как владельцы приложений могут повлиять на производительность и поведение приложения, а также важность рассмотрения всего приложения, включая технологию, людей и среду. Карточки приложений создаются для приложений ИИ, а карточки платформы — для служб платформы ИИ. Эти ресурсы могут поддерживать разработку или развертывание собственных приложений и предоставляться пользователям или заинтересованным лицам, на которые они влияют.

В рамках своей приверженности ответственному использованию ИИ корпорация Майкрософт придерживается шести основных принципов: справедливости, надежности и безопасности, конфиденциальности и безопасности, инклюзивности, прозрачности и подотчетности. Эти принципы внедрены в Standard ответственного ИИ, который помогает командам проектировать, создавать и тестировать приложения ИИ. Карточки приложений и платформ играют ключевую роль в практическом применении этих принципов, обеспечивая прозрачность в отношении возможностей, предполагаемого использования и ограничений. Для получения дополнительных сведений читателям рекомендуется ознакомиться с отчетом майкрософт об ответственной прозрачности ИИ и кодексом поведения, в которых показано, как корпоративные клиенты и частные лица могут ответственно взаимодействовать с ИИ.

Обзор

Управление состоянием безопасности данных Microsoft Purview — это приложение для обеспечения безопасности данных на портале Microsoft Purview, которое помогает организациям обнаруживать, защищать и исследовать риски, связанные с конфиденциальными данными в их цифровых активах. Вместо того, чтобы сосредоточиться на инфраструктуре или конечных точках, Управление состоянием безопасности данных сосредоточиться на самих данных, определяя, где они находятся, кто может получить к ним доступ, как они используются и надлежащим образом защищены. Он использует ИИ для анализа шаблонов доступа, поведения совместного использования и пробелов в политике, чтобы определить практические риски и рекомендовать шаги по исправлению.

Управление состоянием безопасности данных решает растущую проблему на современных рабочих местах на основе ИИ: растущая сложность и объем данных затрудняют для групп безопасности поддержание видимости и контроля. Приложение решает эту проблему путем объединения аналитических сведений из нескольких решений Microsoft Purview, включая защиту от потери данных (DLP), управление внутренними рисками, защиту информации с помощью меток конфиденциальности и Исследования по безопасности данных, в единое представление для мониторинга рисков данных, покрытия политик и тенденций состояния. Этот унифицированный подход заменяет необходимость в нескольких средствах и ручном аудите, помогая администраторам более эффективно закрывать пробелы в безопасности данных.

Управление состоянием безопасности данных предназначена для надежной работы в корпоративных средах, где организациям необходимо отслеживать и защищать конфиденциальные данные в нескольких расположениях. Приложение включает в себя встроенный интерфейс Microsoft Security Copilot, который позволяет этим пользователям задавать вопросы на естественном языке о состоянии безопасности данных, а также агенты ИИ из Security Copilot, которые могут выполнять управляемые действия по исправлению обнаруженных рисков. Общие сведения см. в видео Microsoft Mechanics: New Управление состоянием безопасности данных.

Основные термины

В следующем списке представлен глоссарий ключевых терминов, связанных с Управление состоянием безопасности данных:

Наблюдаемость ИИ. Функция в Управление состоянием безопасности данных, которая обеспечивает инвентаризацию приложений и агентов ИИ с последними действиями, показывая, сколько из них высокий риск и общее число с конфиденциальными взаимодействиями, а также разбивку отдельных агентов и политик, управляющих ими.

Политика сбора. Политика, которая фиксирует запросы и ответы из взаимодействия СИ для Copilot в Fabric и Security Copilot, а также для приложений ИИ, отличных от Copilot, чтобы ими можно было управлять в решениях Microsoft Purview.

Взаимодействие с Copilot: Запросы и ответы от copilots и агентов, поддерживаемых Microsoft Purview для защиты данных и соответствия требованиям. Включает Microsoft 365 Copilot, Security Copilot, Copilot в Fabric, Copilot Studio.

Защита от потери данных (DLP): решение Microsoft Purview, которое помогает предотвратить ненадлежащий обмен конфиденциальными данными пользователями с помощью методов анализа содержимого, включая ключевое слово сопоставление, оценку выражений и алгоритмы машинного обучения.

Оценка риска данных. Автоматизированное или настраиваемое сканирование, которое определяет и помогает устранить потенциальные риски, связанные с общим доступом данных, особенно для сайтов SharePoint и рабочих областей Fabric. Оценки по умолчанию выполняются еженедельно для 100 лучших сайтов на основе использования.

Цели безопасности данных. Интерактивные рабочие процессы в Управление состоянием безопасности данных, каждый из которых представляет определенную цель безопасности, например предотвращение раскрытия данных во взаимодействии Copilot или предотвращение чрезмерного совместного использования. Каждая цель группирования соответствующих решений Microsoft Purview и приоритетных действий.

Агент по обеспечению безопасности данных. Агент Microsoft Security Copilot, эксклюзивный для текущей версии Управление состоянием безопасности данных, использующий поиск на естественном языке в файлах в SharePoint, OneDrive, Teams, Exchange и Copilot. Он предназначен для предварительного расследования проверок, а не для формальных случаев.

Управление внутренними рисками. Решение Microsoft Purview, в котором используются встроенные индикаторы службы и сторонние индикаторы для выявления, рассмотрения и принятия решений о потенциально рискованных действиях пользователей в организации.

Политика одним щелчком. Предварительно настроенная политика в Управление состоянием безопасности данных, которую можно активировать одним щелчком, чтобы быстро получить аналитические сведения и защитить данные без настройки политики вручную.

Promptbook. Встроенная последовательность запросов на Microsoft Security Copilot, которая помогает пользователям быстро исследовать определенные сценарии безопасности данных, такие как рискованное поведение пользователя или защита конфиденциальных данных.

Security Copilot: Microsoft Security Copilot и ее агенты — это решение для обеспечения безопасности на основе искусственного интеллекта, которое помогает специалистам по безопасности данных исследовать инциденты безопасности и реагировать на них. В Управление состоянием безопасности данных он предоставляет открытый интерфейс запроса для вопросов естественного языка о безопасности данных.

Метка конфиденциальности. Метка из Защита информации Microsoft Purview, которая может применяться к содержимому для определения и применения политик защиты конфиденциальных данных в облаках, приложениях и устройствах.

Ключевые функции или возможности

Основные функции и возможности, описанные здесь, описывают, что Управление состоянием безопасности данных предназначено для выполнения и как он выполняет поддерживаемые задачи.

  • Информационная панель безопасности данных. Центральная целевая страница, которая обеспечивает немедленный доступ к ключевым метрикам состояния, основным целям для решения на основе риска, snapshot использования данных в пространстве данных и 30-дневному графику тенденций состояния безопасности данных в организации. Пользователи могут взаимодействовать непосредственно с Security Copilot с помощью предложенных запросов на этой странице.

  • Цели обеспечения безопасности данных с помощью управляемых рабочих процессов. Выбор карточек, каждая из которых представляет определенную цель безопасности, например предотвращение раскрытия данных при взаимодействии Copilot, предотвращение чрезмерного совместного использования конфиденциальных данных, предотвращение кражи в опасные места и обнаружение конфиденциальных данных. Каждая цель предоставляет комплексный рабочий процесс с приоритетными действиями, политиками одним щелчком и отслеживанием хода выполнения, чтобы пользователи могли сосредоточиться на достижении результатов, а не на переходе по отдельным решениям.

  • Наблюдаемость ИИ. Инвентаризация приложений и агентов ИИ с активностью за последние 30 дней, показывающая, сколько из них имеют высокий риск, и общее число с конфиденциальными взаимодействиями. Предоставляет разбивку отдельных агентов, их действий и политик, управляющих ими, что позволяет администраторам отслеживать такие риски, как чрезмерный доступ, кража и необычные шаблоны доступа.

  • Оценки рисков данных. Автоматизированные и настраиваемые проверки, которые определяют потенциальные риски для совместного доступа к данным. Оценки по умолчанию выполняются еженедельно для 100 лучших сайтов SharePoint на основе использования. Пользовательские оценки могут быть предназначены для конкретных пользователей, сайтов или рабочих областей Fabric. Результаты включают в себя параметры исправления, такие как ограничение доступа по метки, создание политик автоматической маркировки или создание политик хранения.

  • Рекомендации по обеспечению безопасности данных и действия по исправлению. Аналитические сведения и рекомендации, созданные на основе обработанных данных, которые помогают администраторам создавать или уточнять политики защиты от потери данных и управления внутренними рисками. Включает политики одним щелчком для быстрого развертывания непосредственно из рабочего процесса Управление состоянием безопасности данных.

  • Отчеты и аналитика. Отслеживает состояние безопасности данных организации с течением времени с помощью отчетов об использовании меток конфиденциальности, охвате политики защиты от потери данных, рискованном поведении пользователей и активности приложений ИИ. Расширенные отчеты обеспечивают расширенную фильтрацию, настраиваемые представления и возможности экспорта для поддержки требований соответствия.

  • Обозреватель действий. Предоставляет подробные сведения о действиях, связанных с содержимым, включая взаимодействие СИ (запросы, ответы и конфиденциальная информация), соответствие правил защиты от потери данных, посещения веб-сайтов ИИ и обнаружение типов конфиденциальной информации. Поддерживает фильтрацию по категориям рабочей нагрузки, таким как возможности Copilot, корпоративные приложения ИИ и другие приложения ИИ.

  • Агент по обеспечению безопасности данных. Агент на основе ИИ из Microsoft Security Copilot, который использует поиск на естественном языке для поиска конфиденциальных данных в взаимодействиях SharePoint, OneDrive, Teams, Exchange и Copilot. Он предоставляет количество элементов, классификации меток конфиденциальности и оценки уровня риска, а также экспортируемые аналитические отчеты. Этот агент предназначен для быстрых предварительных проверок.

  • Встроенный интерфейс Security Copilot. Открытый интерфейс запроса, в котором пользователи могут задавать вопросы на естественном языке о состоянии безопасности данных. Включает встроенные сборники подсказок для исследования рискованных пользователей и защиты конфиденциальных данных, а также коллекцию запросов с классифицированными запросами для оповещений, данных, подверженных риску пользователей, подозрительных действий и конфиденциальных данных.

  • Исправление на основе агента ИИ. Под руководством пользователя агенты ИИ могут напрямую устранять обнаруженные риски, такие как удаление общедоступных ссылок для общего доступа, применение политик защиты от потери данных или отзыв разрешений. Агенты рассмотрения на основе ИИ просматривают оповещения от защиты от потери данных и управления внутренними рисками, фильтруя шум и выделяя критические угрозы. Все действия агента проверяются и подлежат проверке и утверждению пользователем.

Предполагаемое использование

Управление состоянием безопасности данных можно использовать в нескольких сценариях в различных отраслях. Ниже приведены некоторые примеры вариантов использования:

  • Мониторинг состояния безопасности данных на предприятии. Сотрудник по соответствию требованиям в организации финансовых услуг использует Управление состоянием безопасности данных для получения единого представления своих конфиденциальных данных в разных расположениях. Панель мониторинга состояния отображает ключевые метрики и тенденции, что позволяет сотруднику быстро определить, где существуют незащищенные конфиденциальные данные, и отслеживать улучшения с течением времени. Это избавляет от необходимости вручную просматривать несколько отдельных средств и панелей мониторинга.

  • Предотвращение чрезмерного совместного использования перед развертыванием Microsoft 365 Copilot. ИТ-администратор, подготавливающийся к развертыванию Microsoft 365 Copilot, выполняет оценку рисков данных, чтобы определить сайты SharePoint с потенциально избыточным содержимым. Управление состоянием безопасности данных на сайтах, где конфиденциальные файлы имеют широкие ссылки для общего доступа или не имеют меток конфиденциальности, и предоставляет варианты исправления одним щелчком, такие как ограничение доступа или создание политик автоматической маркировки. Это помогает организации снизить уязвимость к данным до того, как средства ИИ начнут обрабатывать это содержимое.

  • Исследование рискованного поведения пользователей с помощью анализа с помощью ИИ. Аналитик по безопасности данных получает оповещение о том, что пользователь выполняет необычные действия по обмену файлами. Используя встроенный интерфейс Security Copilot, аналитик запускает рискованное исследование пользователей, который автоматически анализирует действия пользователя с конфиденциальными данными, выявляет потенциальные шаблоны кражи, проверяет аномалии и предлагает защитные действия с помощью последовательности запросов на естественном языке.

  • Управление использованием приложений ИИ в организации. Команда безопасности в организации здравоохранения использует наблюдаемость ИИ для отслеживания того, с какими приложениями и агентами ИИ взаимодействуют сотрудники, какое из этих взаимодействий связано с конфиденциальными данными пациентов и имеются ли соответствующие политики защиты от потери данных. Команда использует цели безопасности данных для создания целевых политик, которые предотвращают обмен конфиденциальной информацией о работоспособности с несанкционированными приложениями ИИ.

  • Реагирование на требования соответствия требованиям. Команда по соответствию в государственном агентстве использует Управление состоянием безопасности данных отчеты и обозреватель действий, чтобы продемонстрировать, что конфиденциальные данные надлежащим образом помечены, защищены политиками защиты от потери данных и отслеживаются на рискованные действия. Возможности экспорта и настраиваемые представления позволяют команде создавать готовую к аудиту документацию в соответствии с нормативными обязательствами.

  • Обнаружение незащищенных конфиденциальных данных в новых средах. Организация, только приступая к работе с Microsoft Purview, использует Управление состоянием безопасности данных для автоматического сканирования данных и действий пользователей, получения базовых аналитических сведений и рекомендаций, ориентированных на незащищенные данные. Это помогает организации быстро установить политики защиты от потери данных, защиты информации и управления внутренними рисками без проведения глубокого анализа вручную.

Управление состоянием безопасности данных не предназначен для использования в качестве помощник ИИ общего назначения, для сценариев, не связанных с безопасностью данных в Microsoft Purview, или для официальных юридических расследований (для которых требуются специальные решения, такие как обнаружение электронных данных и Исследования по безопасности данных).

Модели и обучающие данные

Управление состоянием безопасности данных использует существующие агенты ИИ и функциональные возможности ИИ. Таким образом, он зависит от любой внешней конфигурации, которую они предоставляют. Например, выбор модели для Microsoft Security Copilot для встроенного интерфейса запроса на естественном языке. Управление состоянием безопасности данных также использует анализ содержимого в рамках защиты от потери данных для обнаружения конфиденциальной информации с помощью алгоритмов ключевое слово сопоставления, оценки выражений и машинного обучения. Дополнительные сведения см. в связанных карточках приложений и документации.

Производительность

Управление состоянием безопасности данных предназначена для надежной работы в корпоративных средах, где организациям необходимо отслеживать и защищать конфиденциальные данные в нескольких расположениях. Приложение обрабатывает и сопоставляет данные из существующих решений Microsoft Purview, включая защиту от потери данных, управление внутренними рисками и защиту информации, для создания аналитических сведений, рекомендаций и метрик состояния. Производительность оптимизирована для организаций, использующих поддерживаемые облачные службы Майкрософт, и результаты улучшаются по мере настройки дополнительных решений Microsoft Purview и доступности дополнительных данных для анализа.

Приложение принимает текстовые входные данные для всех своих функций. Пользователи взаимодействуют с Управление состоянием безопасности данных через интерфейс портала Microsoft Purview, где они могут перемещаться по панелям мониторинга, настраивать политики и выполнять оценку рисков данных. Внедренный интерфейс Security Copilot принимает текстовые запросы естественного языка и возвращает текстовые ответы, включая сводки данных, анализ рисков и рекомендуемые действия. Агент защиты данных принимает поисковые запросы на естественном языке и возвращает структурированные результаты, включая количество элементов, классификации меток конфиденциальности и оценки уровня риска, с возможностью экспорта отчетов в виде Word документов.

Управление состоянием безопасности данных поддерживает языки, доступные в интерфейсе портала Microsoft Purview. Интерфейс Security Copilot разработан и оценивается главным образом для запросов и ответов на английском языке. Обнаружение типов конфиденциальной информации поддерживает несколько языков, как описано в определениях типов конфиденциальной информации. Пользователи должны знать, что производительность запросов на естественном языке и функций поиска может отличаться при использовании языков, отличных от английского.

После начальной настройки Управление состоянием безопасности данных требуется время для обработки организационных данных. Время сканирования зависит от размера организации и объема обрабатываемых данных и действий. Для завершения первоначальной обработки может потребоваться до трех дней. Для новых политик требуется не менее 24 часов для сбора данных, прежде чем появятся результаты. Для оценки риска данных требуется по крайней мере 48 часов после завершения, прежде чем будут доступны обновленные результаты. Агент защиты данных может выполнять поиск до 1 ГБ содержимого на запрос, а ограниченные поисковые запросы, предназначенные для конкретных пользователей или сайтов, выполняются значительно быстрее, чем поиск на уровне клиента.

Ограничения

Понимание ограничений Управление состоянием безопасности данных имеет решающее значение для определения того, что он используется в безопасных и эффективных границах. Хотя мы рекомендуем клиентам использовать Управление состоянием безопасности данных в своих инновационных решениях или приложениях, важно отметить, что Управление состоянием безопасности данных не рассчитаны на все возможные сценарии. Мы рекомендуем пользователям ссылаться на правила поведения служб ИИ ( для организаций) или правила поведения в Соглашении об использовании служб Майкрософт (для частных лиц), а также следующие рекомендации при выборе варианта использования:

  • Область безопасности данных. Интерфейс Security Copilot в Управление состоянием безопасности данных предназначен для ответов на вопросы о безопасности данных, связанные с управлением внутренними рисками, Information Protection, и защита от потери данных в Microsoft Purview. Все остальные решения Purview в настоящее время не область для Управление состоянием безопасности данных аналитики. Пользователи должны направлять вопросы за пределами этих областей в соответствующие средства для конкретных решений.

  • Объем данных. Обозреватель активов Standard вкладке фильтруется по расположениям Майкрософт и сторонних служб. В настоящее время расположения Майкрософт включают только Microsoft 365. Расположения сторонних разработчиков становятся возможными благодаря интеграции с партнерскими решениями. Организации с большим объемом данных в средах, которые не включены, должны учитывать, что видимость через обозреватель активов может быть ограничена, и по мере необходимости они должны дополнять другие средства.

  • Ограничения на объем оценки рисков данных. К пользовательским и стандартным оценкам риска данных применяется не более 200 000 элементов на каждое расположение. Сообщаемое число файлов может быть не точным, если в каждом расположении имеется более 100 000 файлов. Организациям с очень большими сайтами SharePoint следует рассмотреть возможность выполнения нескольких целевых оценок. Кроме того, OneDrive в настоящее время не поддерживается для сканирования на уровне элементов, а пользовательские оценки поддерживают не более 10 сайтов SharePoint для сканирования на уровне элементов.

  • Требования к времени обработки. После завершения пользовательской оценки риска данных результаты должны стать доступными по крайней мере через 48 часов и не обновляться после этого момента. Для просмотра изменений требуется новая оценка. Для новых политик требуется по крайней мере 24 часа, прежде чем появятся данные. Пользователи должны планировать заранее и не ожидать результатов в режиме реального времени от вновь созданных оценок или политик.

  • Полнота данных обозревателя действий. Событие взаимодействия СИ не всегда может отображать текст запроса и ответа. В некоторых случаях запросы и ответы охватывают последовательные записи. Если у пользователя нет почтового ящика, размещенного в Exchange Online, запрос или ответ не отображается. Заметки, созданные ИИ, могут не отображать запросы или ответы. Пользователи должны быть осведомлены об этих пробелах при использовании обозревателя действий для обеспечения соответствия требованиям или расследования.

  • Ограничения агента безопасности данных. Агент поддерживает поиск содержимого до 1 ГБ данных, но не поддерживает поиск на основе метаданных. Если период времени не указан, результаты по умолчанию — последние 7 дней. Агент предназначен для предварительных проверок и не является заменой формальных средств исследования, таких как обнаружение электронных данных, аудит или Исследования по безопасности данных.

  • Поддержка языков. Интерфейс Security Copilot и агент защиты данных разработаны и оцениваются в основном для запросов на английском языке. Использование других языков может привести к снижению точности или неполным ответам. Пользователи должны проявлять осторожность при работе за пределами предполагаемого языкового область.

  • Точность ответа на генеративный ИИ. Как и во всех системах генеративного ИИ, ответы Security Copilot в Управление состоянием безопасности данных иногда могут содержать неточные или неполные сведения. Пользователи должны проверять аналитические сведения, созданные ИИ, с фактическими данными, прежде чем выполнять последовательные действия на основе этих ответов.

Оценки

Оценки производительности и безопасности оценивают, работают ли приложения ИИ надежно и безопасно, путем изучения таких факторов, как обоснованность, релевантность и согласованность, при выявлении рисков создания вредоносного содержимого. Следующие оценки были проведены с уже имеющимися компонентами безопасности, которые также описаны в разделе Компоненты безопасности и меры по устранению рисков.

Управление состоянием безопасности данных была оценена с помощью пользовательских методов оценки, разработанных командой по продукту. Оценка была сосредоточена на точности внедренного Security Copilot при ответе на вопросы естественного языка о безопасности данных.

Набор оценочных данных состоял из соответствующих запросов, определенных командой по продукту и клиентами, включая расширенный тестовый набор запросов на основе схем и описаний таблиц. Корпорация Майкрософт оценила производительность с помощью метрики скорости точности: ответ считается точным, если созданный запрос предоставляет точную информацию, запрошенную в запросе. Команда проверила ряд сценариев безопасности данных, охватывающих защиту от потери данных, защиту информации и аналитические сведения об управлении внутренними рисками, чтобы убедиться, что Security Copilot ответы фактически поддерживаются базовыми данными и контекстно соответствуют вопросу пользователя.

Идеальным результатом является то, что ответ Security Copilot возвращает именно запрошенную информацию, на основе фактических данных организации, без сфабрикованным или вводящим в заблуждение контентом. Неоптимальным результатом будет ответ, который возвращает неточные данные, неправильно интерпретирует вопрос пользователя или предоставляет информацию за пределами область поддерживаемых решений по обеспечению безопасности данных. Процесс оценки является итеративным: команда по продукту уточняет наборы запросов и пороговые значения точности на основе отзывов клиентов и реальных шаблонов использования.

Компоненты безопасности и меры по устранению рисков

  • Управление доступом на основе ролей. Управление состоянием безопасности данных применяет детализированные разрешения через группы ролей Microsoft Entra и Microsoft Purview. Для различных действий требуются определенные роли, например администратор соответствия требованиям для редактирования, средство просмотра безопасности данных для использования Security Copilot и средство просмотра содержимого Обозреватель содержимого для просмотра запросов и ответов взаимодействия с ИИ. Это гарантирует, что пользователи могут получать доступ только к данным и выполнять действия, соответствующие их роли, что снижает риск несанкционированного доступа к конфиденциальной информации.

  • Комплексное ведение журнала аудита. Все автоматизированные действия, выполняемые агентами ИИ в Управление состоянием безопасности данных, записываются в журналы аудита. Сюда входят такие действия, как удаление ссылок общего доступа, применение политик и отзыв разрешений. Функции журналов аудита и обозревателя действий предоставляют полный список взаимодействий с приложениями и агентами ИИ, поддерживая исследования соответствия требованиям, реагирование на инциденты и подотчетность.

  • Проверка и утверждение пользователем действий агента. Пользователи всегда контролируют поведение агента ИИ в Управление состоянием безопасности данных. Агенты рассмотрения на основе ИИ и агент безопасности данных отображают рекомендации и результаты, но пользователи просматривают, утверждают или настраивают все автоматизированные действия, прежде чем они вступают в силу. Параметры "Просмотр действий агента" в интерфейсе обеспечивают простой доступ к действиям агента для контроля.

  • Обработка аналитики согласия: Управление состоянием безопасности данных требуется явное согласие на обработку данных организации. Аналитика в управлении внутренними рисками и защите от потери данных должна быть включена, прежде чем Управление состоянием безопасности данных сможет создавать аналитические сведения. Это гарантирует, что организации принимают преднамеренное решение о совместном доступе к данным для анализа и знают о текущей обработке.

  • Возможности ИИ с областью действия. Интерфейс Security Copilot в Управление состоянием безопасности данных намеренно ограничивается вопросами безопасности данных, связанными с управлением внутренними рисками, Information Protection и предотвращением потери данных. Вопросы за пределами этого область не отвечают, что снижает риск того, что ИИ генерирует ответы на темы, в которых отсутствуют надежные данные. Агент защиты данных также ограничен поиском содержимого в Microsoft 365 и ограничен 1 ГБ содержимого на запрос.

  • Классификация на уровне риска для результатов поиска. Агент защиты данных назначает каждому результату поиска уровень риска в зависимости от того, насколько содержимое соответствует запросу пользователя. Результаты классифицируются, чтобы помочь пользователям определить приоритеты и сосредоточиться на наиболее важных результатах. Если агент не может определить уровень риска, элементы помечаются как "не классифицированные", обеспечивая прозрачность уровня доверия агента.

  • Рассмотрение оповещений и снижение шума. Агенты рассмотрения на основе ИИ пересматривают оповещения по защите от потери данных и управлению внутренними рисками и классифицируют их как "требует внимания", "менее срочных" или "не классифицированных". Эта фильтрация снижает усталость от оповещений и помогает аналитикам безопасности сосредоточиться на подлинных угрозах, а не на ложных срабатываниях.

  • Схема сохранения конфиденциальности. Управление внутренними рисками, которое передает данные в Управление состоянием безопасности данных, включает такие элементы управления конфиденциальностью, как псевдонимизация и доступ на основе ролей, чтобы обеспечить конфиденциальность на уровне пользователя и включить анализ рисков. Компонент Security Copilot следует рекомендациям по обеспечению конфиденциальности и безопасности данных, описанным в документации по Microsoft Security Copilot конфиденциальности и безопасности данных.

  • Механизм обратной связи в продукте. Пользователи могут оставлять отзывы о каждом Security Copilot ответе, помечая его как "выглядит правильно", "требует улучшения" или "неуместно". Этот цикл обратной связи помогает корпорации Майкрософт постоянно повышать качество и безопасность ответов, создаваемых ИИ.

Рекомендации по развертыванию и внедрению Управление состоянием безопасности данных

Ответственный ИИ — это общее обязательство корпорации Майкрософт и ее клиентов. Хотя корпорация Майкрософт создает приложения ИИ с безопасностью, справедливостью и прозрачностью, клиенты играют важную роль в развертывании и использовании этих технологий в своих собственных контекстах. Чтобы поддержать это партнерство, мы предлагаем следующие рекомендации для разработчиков развертывания и конечных пользователей, которые помогут клиентам эффективно реализовать ответственный ИИ.

Развертывающие и конечные пользователи должны:

  • Проявлять осторожность и оценивать результаты при использовании Управление состоянием безопасности данных для принятия последовательных решений или в конфиденциальных областях. Последовательные решения — это решения, которые могут оказать юридическое или значительное влияние на доступ человека к образованию, занятости, финансовым платформам, государственным пособиям, здравоохранению, жилищному обеспечению, страхованию, юридическим платформам или которые могут привести к физическому, психологический или финансовый ущерб. Конфиденциальные области, такие как финансовые платформы, здравоохранение и жилье, требуют особого ухода из-за возможности непропорционального воздействия на различные группы людей. При использовании ИИ для принятия решений в этих областях убедитесь, что затронутые заинтересованные лица могут понять, как принимаются решения, обжаловать решения и обновить все соответствующие входные данные.

  • Оценка юридических и нормативных аспектов. Клиенты должны оценивать потенциальные конкретные юридические и нормативные обязательства при использовании любых платформ и решений ИИ, которые могут быть не подходят для использования в любой отрасли или сценарии. Кроме того, платформы или решения ИИ не предназначены для использования и не могут использоваться способами, запрещенными применимыми условиями обслуживания и соответствующими правилами поведения.

Конечные пользователи должны:

  • Осуществляйте контроль над человеком, когда это необходимо. Контроль человека является важной защитой при взаимодействии с приложениями ИИ. Хотя мы постоянно улучшаем наши приложения ИИ, ИИ по-прежнему может делать ошибки. Созданные выходные данные могут быть неточными, неполными, предвзятыми, несоответственными или не имеющими отношения к поставленным целям. Это может произойти по различным причинам, таким как неоднозначность входных данных или ограничения базовых моделей. Таким образом, пользователи должны просмотреть ответы, созданные Управление состоянием безопасности данных, и убедиться, что они соответствуют ожиданиям и требованиям.

  • Помните о риске чрезмерной зависимости. Чрезмерная зависимость от ИИ возникает, когда пользователи принимают неправильные или неполные выходные данные ИИ, главным образом из-за того, что ошибки в выходных данных ИИ может быть трудно обнаружить. Для конечного пользователя чрезмерная зависимость может привести к снижению производительности, потере доверия, отказу от заявки, финансовым потерям, психологическому ущербу, физическому ущербу и т. д. В контексте Управление состоянием безопасности данных излишняя зависимость может означать выполнение неточных Security Copilot аналитических сведений, не проверяя их с фактическими данными, что может привести к ошибочным изменениям политики или пропущенным рискам безопасности.

  • Область Security Copilot вопросы для поддерживаемых областей. Для достижения наилучших результатов задавайте вопросы о безопасности данных, связанные с управлением внутренними рисками, Information Protection и предотвращением потери данных. Вопросы за пределами этих областей могут возвращать неполные или неточные ответы, так как они находятся за пределами данных, Управление состоянием безопасности данных предназначен для анализа.

  • Используйте конкретные и целевые запросы. При использовании интерфейса Security Copilot или агента защиты данных предоставьте четкие и конкретные запросы, которые содержат соответствующие сведения, такие как имена пользователей, периоды времени и расположения данных. Например, вместо запроса "показать мне риски безопасности", попросите "показать все действия с конфиденциальными данными, выполненные user@contoso.com за последние 30 дней". Более конкретные запросы дают более точные и практические результаты.

  • Предоставление отзывов для улучшения качества. Используйте параметр обратной связи в продукте, чтобы пометить Security Copilot ответы как "выглядит правильно", "требует улучшения" или "неуместно". Эти отзывы помогают корпорации Майкрософт выявлять и устранять проблемы с качеством в ответах, созданных ИИ.

Средства развертывания должны:

  • Настройка соответствующих разрешений перед предоставлением доступа. Назначьте минимально необходимые роли каждому пользователю в зависимости от его обязанностей. Используйте подробную таблицу разрешений в документации по разрешениям Управление состоянием безопасности данных, чтобы определить, какие группы ролей необходимы для каждого действия. Ограничение доступа снижает риск того, что несанкционированные пользователи просматривают конфиденциальные данные или выполняют непреднамеренные действия.

  • Выполните все задачи настройки, прежде чем полагаться на аналитические сведения. Перед оценкой Управление состоянием безопасности данных аналитики убедитесь, что политики аудита, аналитики и сбора правильно настроены. Неполная настройка может привести к отсутствующим данным и неточным метрикам состояния. Предоставьте достаточно времени обработки (до трех дней для первоначальных проверок, не менее 24 часов для новых политик) перед принятием решений на основе Управление состоянием безопасности данных данных.

  • Использование ограниченного поиска для эффективной обработки. При использовании агента защиты данных настройте поиск для конкретных пользователей, групп или сайтов, а не для сканирования на уровне клиента. Ограниченные поисковые запросы значительно быстрее и эффективнее, что сокращает время обработки и дает более целенаправленные результаты.

  • Проверка и уточнение политик одним щелчком после развертывания. Политики одного щелчка предоставляют полезную отправную точку, но их следует проверять и настраивать в соответствии с конкретными требованиями вашей организации. После первоначального развертывания отслеживайте результаты политики с помощью Управление состоянием безопасности данных отчетов и обозревателя действий, а также настройте параметры политики в соответствующем решении (DLP, управление внутренними рисками или Information Protection) в соответствии с требованиями вашей организации к рискам и соответствию требованиям.

  • Создание регулярной проверки. Используйте Управление состоянием безопасности данных тенденции и отчеты о состоянии для отслеживания состояния безопасности данных вашей организации с течением времени. Установите регулярную периодичность для проверки оценок рисков данных, охвата политик и метрик наблюдаемости ИИ. Регулярные проверки помогают выявлять возникающие риски, пробелы в политике и изменения в поведении пользователей, прежде чем они станут инцидентами безопасности.

  • Планирование конфигурации политики сбора. Если вашей организации необходимо записывать запросы и ответы от Copilot в Fabric и Security Copilot, а также для приложений, отличных от Copilot AI, настройте политики сбора с выбранным параметром захвата содержимого. Для приложений, использующих эти политики сбора, события взаимодействия СИ в обозревателе действий не будут отображать текст запроса и ответа, что ограничивает полезность данных для мониторинга соответствия требованиям.

Дополнительные сведения о Управление состоянием безопасности данных

Дополнительные рекомендации или дополнительные сведения об ответственном использовании Управление состоянием безопасности данных рекомендуем ознакомиться со следующей документацией:

Дополнительные сведения об ответственном ИИ

  • Last updated on