Что такое ответственный ИИ

ОБЛАСТЬ ПРИМЕНЕНИЯ:Расширение ml для Azure CLI v2 (текущая)Пакет SDK Python azure-ai-ml v2 (текущая)

Ответственный искусственный интеллект (ответственный ИИ) — это подход к разработке, оценке и развертыванию систем искусственного интеллекта безопасно, этически и с доверием. Системы искусственного интеллекта результаты многих решений, принятых их создателями. Ответственный ИИ помогает управлять этими решениями — от определения системного назначения к взаимодействию с пользователем— к более полезным и справедливым результатам. Он держит людей и их цели в центре проектирования и уважает такие ценности, как справедливость, надежность и прозрачность.

Корпорация Майкрософт создала ответственный стандарт ИИ, платформу для создания систем ИИ на основе шести принципов: справедливости, надежности и безопасности, конфиденциальности и безопасности, инклюзивности, прозрачности и подотчетности. Эти принципы являются основой ответственного и надежного подхода к ИИ, особенно поскольку интеллектуальная технология становится более распространенной в повседневной продукции и услугах.

В этой статье объясняется, как Машинное обучение Azure предоставляет средства, помогающие разработчикам и специалистам по обработке и анализу данных реализовать и реализовать эти шесть принципов.

Схема шести принципов Microsoft ответственного искусственного интеллекта, охватывающих справедливость, надежность и безопасность, конфиденциальность и безопасность, инклюзивность, прозрачность и подотчетность.

Справедливость и инклюзивность

Системы искусственного интеллекта должны справедливо относиться ко всем и не влиять на аналогичные группы по-разному. Например, если системы искусственного интеллекта предоставляют рекомендации по медицинскому лечению, заявкам на кредит или трудоустройству, они должны делать те же рекомендации для людей с похожими симптомами, финансовыми обстоятельствами или квалификацией.

Справедливость и инклюзивность в Машинном обучении Azure: компонент оценки справедливостипанели мониторинга ответственного искусственного интеллекта помогает оценить справедливость модели в таких группах, как пол, этнический характер, возраст и другие характеристики.

Надежность и защита

Для создания доверия системы ИИ должны работать надежно, безопасно и согласованно. Они должны функционировать как разработанные, безопасно реагировать на непредвиденные условия и противостоять вредной манипуляции. Их поведение и способность обрабатывать различные условия отражают диапазон ситуаций, ожидаемых разработчикам во время проектирования и тестирования.

Надежность и безопасность в Машинном обучении Azure: компонент анализа ошибок панели мониторинга ответственного искусственного интеллекта помогает вам:

  • получить глубокое представление о распределении сбоев для модели;
  • определить когорты (подмножества) данных с более высокой частотой ошибок, чем определяет общий тест производительности.

Эти расхождения могут возникать, когда система или модель показывает худшие результаты для определённых демографических групп или при редко встречающихся в обучающих данных условиях входных данных.

Прозрачность

Когда системы искусственного интеллекта сообщают о решениях, влияющих на жизнь людей, очень важно, чтобы люди понимали, как эти решения принимаются. Например, банк может использовать систему искусственного интеллекта, чтобы решить, является ли человек кредитоспособным, или компания может использовать его для выбора кандидатов на работу.

Важной частью прозрачности является интерпретация: предоставление полезных объяснений поведения системы ИИ. Улучшение интерпретации помогает заинтересованным лицам понять, как и почему работают системы искусственного интеллекта, чтобы они могли выявлять проблемы с производительностью, проблемы справедливости, практики исключения или непредвиденные результаты.

Прозрачность в Машинное обучение Azure: компоненты интерпретируемости модели и контрфактического анализа «что, если» на панели мониторинга ответственного ИИ помогают создавать понятные человеку описания прогнозов модели.

Компонент интерпретируемости модели предоставляет несколько представлений в поведении модели:

  • Глобальные объяснения. Например, какие признаки влияют на общее поведение модели распределения кредита?
  • Локальные объяснения. Например, почему заявление о кредите клиента утверждено или отклонено?
  • Объяснения по модели для выбранной когорты или выбранных точек данных. Например, какие признаки влияют на общее поведение модели распределения кредита для лиц с низким доходом?

Компонент counterfactual what-if помогает понять и отладить модель машинного обучения, показывая, как она реагирует на изменения функций и возмущения.

Машинное обучение Azure также поддерживает систему показателей ответственного ИИ. Оценочная карта — это настраиваемый PDF-отчёт, который разработчики могут настраивать, генерировать, загружать и предоставлять техническим и нетехническим заинтересованным сторонам. Это помогает информировать заинтересованные стороны о состоянии набора данных и модели, обеспечивать соответствие требованиям и укреплять доверие. Схема показателей также может поддерживать проверки аудита, показыв характеристики модели машинного обучения.

Конфиденциальность и безопасность

По мере того как ИИ становится более распространенным, защита конфиденциальности и защита личной и бизнес-информации является более важной и сложной. Конфиденциальность и безопасность данных требуют пристального внимания, так как системам искусственного интеллекта требуются данные для принятия точных прогнозов и решений. Системы ИИ должны соответствовать законам о конфиденциальности, которые:

  • требуют прозрачности сбора, использования и хранения данных;
  • требуют, чтобы у потребителей имелись соответствующие средства, позволяющие контролировать выбор способа использования своих данных.

Конфиденциальность и безопасность в Машинном обучении Azure. Машинное обучение Azure позволяет администраторам и разработчикам создавать безопасные конфигурации , соответствующие политикам компании. С помощью Машинного обучения Azure и платформы Azure вы можете:

  • ограничение доступа к ресурсам и операциям по учетным записям или группам пользователей;
  • ограничение входящих и исходящих сетевых подключений;
  • Шифруйте данные при передаче и при хранении.
  • проверка на уязвимости;
  • применение политик конфигурации и их аудит.

Корпорация Майкрософт также создала два пакета с открытым кодом для реализации принципов конфиденциальности и безопасности:

  • Пакет SDK SmartNoise: разностная конфиденциальность — это набор систем и методик, которые помогают обеспечить безопасность и конфиденциальность данных отдельных лиц. В решениях машинного обучения для обеспечения соответствия нормативным требованиям может потребоваться дифференциальная конфиденциальность. SmartNoise — это проект с открытым кодом (в разработке которого также участвует корпорация Майкрософт), содержащий компоненты для создания глобальных систем с дифференциальной конфиденциальностью.

  • Counterfit — это проект с открытым кодом, который включает в себя средство командной строки и универсальный уровень автоматизации, позволяющие разработчикам моделировать кибератаки на системы ИИ. Любой пользователь может скачать это средство и развернуть его с помощью Azure Cloud Shell для запуска в браузере или развернуть его локально в среде Python Anaconda. Это средство может оценивать модели ИИ, размещенные в различных облачных средах, локальной среде или в пограничной среде. Оно не зависит от моделей ИИ и поддерживает различные типы данных, включая текст, изображения и универсальные входные данные.

Отчетность

Люди, которые разрабатывают и развертывают системы ИИ, должны отвечать за то, как эти системы работают. Организации должны использовать отраслевые стандарты для разработки норм подотчетности. Эти нормы помогают гарантировать, что системы ИИ не являются окончательным органом по решениям, влияющим на жизнь людей, и что люди поддерживают значимый контроль над высоко автономными системами.

Подотчетность в Машинном обучении Azure: операции машинного обучения (MLOps) основаны на принципах и методиках DevOps, которые повышают эффективность рабочего процесса ИИ. Машинное обучение Azure предоставляет следующие возможности MLOps для повышения подотчетности:

  • Регистрация, создание пакетов и развертывание моделей из любого места. Также можно отслеживать связанные метаданные, необходимые для использования модели.
  • Собирайте данные управления на протяжении всего жизненного цикла машинного обучения. Зарегистрированная в журнале информация о происхождении может включать сведения о том, кто публикует модели, почему были внесены изменения и когда модели были развернуты или использовались в рабочей среде.
  • Уведомление и оповещение о событиях в жизненном цикле машинного обучения, Примеры включают выполнение эксперимента, регистрацию модели, развертывание модели и обнаружение смещения данных.
  • Отслеживайте приложения на наличие операционных проблем и проблем, связанных с машинным обучением. Сравнивайте входные данные модели при обучении и выводе, изучайте метрики, зависящие от модели, и предоставляйте возможности мониторинга и оповещения в инфраструктуре машинного обучения.

Кроме того, система показателей ответственного искусственного интеллекта в Машинном обучении Azure создает ответственность, обеспечивая взаимодействие между заинтересованными лицами. В системе показателей разработчики могут настраивать, скачивать и обмениваться аналитическими сведениями о работоспособности моделей как с техническими, так и не техническими заинтересованными лицами. Совместное использование этих аналитических сведений помогает создавать доверие.

Машинное обучение Azure также поддерживает принятие решений путем информирования бизнес-решений с помощью:

  • Выводы на основе данных, которые помогают заинтересованным сторонам понимать причинно-следственное влияние воздействия на результаты, используя только исторические данные. Например: «Как лекарство повлияет на артериальное давление пациента?» Эти выводы получены из компонента причинного выводапанели мониторинга ответственного ИИ.
  • Аналитические сведения, управляемые моделью, которые отвечают на вопросы пользователей (например, "Что можно сделать, чтобы получить другой результат от вашего ИИ в следующий раз?"), чтобы они могли принять меры. Эти аналитические сведения предоставляются с помощью компонента counterfactual what-ifпанели мониторинга ответственного искусственного интеллекта.

Следующие шаги

  • Последнее обновление: