Общие сведения об ответственном ИИ
Корпорация Майкрософт при разработке программного обеспечения на базе искусственного интеллекта следует шести принципам, которые позволяют создавать потрясающие решения самых сложных проблем без нежелательных негативных последствий.
Справедливость
Системы ИИ должны обращаться со всеми людьми справедливо. Например, предположим, что вы создаете модель машинного обучения, которая будет поддерживать одобрение выдачи кредита в банке. Модель должна предсказать, требуется ли утвердить кредит или отклонить его без смещения. Такое смещение может быть основано на данных о гендерной, этнической принадлежности или других факторах, которые приводят к появлению недобросовестного преимущества или невыгодному положению отдельных групп кандидатов.
Машинное обучение Azure дает возможность интерпретировать модели и количественно определять степень влияния каждого из признаков данных на прогноз модели. Эта возможность помогает специалистам по обработке и анализу данных выявлять и устранять предвзятость модели.
Еще одним примером является реализация ответственного использования ИИ в службе распознавания лиц корпорации Майкрософт, отключающей возможности распознавания лиц, которые можно использовать для передачи эмоциональных состояний и атрибутов личности. Эти возможности, если они используются неправильно, могут стать причиной стереотипного восприятия людей, дискриминации или несправедливого отказа в обслуживании.
Дополнительные сведения о справедливости см. в следующем видео.
Надежность и защита
Системы AI должны работать надежно и безопасно. Например, рассмотрим программную систему на базе искусственного интеллекта для беспилотного автомобиля или модель машинного обучения, которая выполняет диагностику симптомов пациентов и рекомендует назначение препаратов. Ненадежная работа таких систем может привести к существенному риску для жизни человека.
В процессе разработки программного приложения на основе искусственного интеллекта требуется строгое тестирование и процессы управления развертыванием, которые позволяют убедиться в корректности ее работы до выпуска.
Дополнительные сведения о надежности и безопасности см. в следующем видео.
Конфиденциальность и безопасность
Системы AI должны быть безопасными и обеспечивать конфиденциальность. Модели машинного обучения, на которых основаны системы искусственного интеллекта, создаются на основе больших объемов данных, которые могут содержать личные сведения. Мы обязаны обеспечить защиту конфиденциальности таких сведений. Даже после обучения моделей, если система находится в рабочей среде, следует учитывать требования конфиденциальности и безопасности. Поскольку система использует новые данные для прогнозирования или принятия мер, в отношении данных и решений, принятых на основании этих данных, могут возникнуть проблемы в плане конфиденциальности или безопасности.
Дополнительные сведения об обеспечении безопасности и конфиденциальности см. в следующем видео.
Инклюзивность
Системы ИИ должны давать людям равные возможности и обеспечивать их вовлеченность. Искусственный интеллект должен давать преимущества всем членам общества независимо от их физического состояния, пола, сексуальной ориентации, этнической принадлежности и других факторов.
Дополнительные сведения об инклюзивности см. в следующем видео.
Transparency
Системы ИИ должны быть понятны. Пользователи должны полностью понимать назначение системы, принципы ее работы и ожидаемые ограничения.
Дополнительные сведения о прозрачности см. в следующем видео.
Отчетность
Люди должны нести ответственность за системы ИИ. Проектировщики и разработчики решений на базе искусственного интеллекта должны следовать таким принципам руководства и организации, которые гарантируют соответствие их решения четко определенным этическим и правовым стандартам.
Дополнительные сведения об ответственности см. в следующем видео.
Принципы ответственного использования технологий искусственного интеллекта помогают лучше понять некоторые проблемы, с которыми сталкиваются разработчики при попытке создания решений на базе ИИ.
Другие ресурсы
Дополнительные ресурсы, которые помогают на практике применить принципы ответственного использования искусственного интеллекта, см. на странице https://www.microsoft.com/ai/responsible-ai-resources.
Чтобы оценить эти политики в действии, вы можете ознакомиться с информацией о платформе Майкрософт по ответственному созданию систем ИИ.