Общие сведения об ответственном ИИ
Как специалист по обработке и анализу данных вы можете обучить модель машинного обучения, чтобы предсказать, может ли кто-то платить кредит, или подходит ли кандидат для вакансии. Так как модели часто используются при принятии решений, важно, чтобы модели были беспристрастными и прозрачными.
Независимо от того, для чего используется модель, следует учитывать принципы ответственного искусственного интеллекта (ответственного ИИ). В зависимости от варианта использования можно сосредоточиться на конкретных принципах. Тем не менее, рекомендуется рассмотреть все принципы, чтобы убедиться, что вы решаете любые проблемы, которые может иметь модель.
Корпорация Майкрософт перечислила пять принципов ответственного ИИ:
- Справедливость и инклюзивность: Модели должны относиться ко всем справедливо и избегать различных методов лечения аналогичных групп.
- Надежность и безопасность: модели должны быть надежными, безопасными и согласованными. Вы хотите, чтобы модель работала как предназначенная, хорошо обрабатывать непредвиденные ситуации и противостоять вредной манипуляции.
- Конфиденциальность и безопасность. Будьте прозрачными в отношении сбора, использования и хранения данных, чтобы предоставить пользователям возможность контролировать свои данные. Лечите данные с осторожностью, чтобы обеспечить конфиденциальность личности.
- Прозрачность: когда модели влияют на важные решения, влияющие на жизнь людей, люди должны понять, как эти решения были приняты и как работает модель.
- Подотчетность. Принять ответственность за решения, которые модели могут влиять и поддерживать контроль над человеком.
Совет
Узнайте о ответственном стандарте ИИ для создания систем ИИ в соответствии с шестью ключевыми принципами.