Трудности и риски при использовании ИИ
Искусственный интеллект — это мощный инструмент, который можно использовать, чтобы сделать мир намного лучше. Однако, как и в случае с любым другим инструментом, использовать искусственный интеллект нужно ответственно.
В следующей таблице перечислены некоторые потенциальные трудности и риски, с которыми сталкиваются разработчики приложений искусственного интеллекта.
| Трудность или риск | Пример |
|---|---|
| Субъективность может влиять на результаты | Модель утверждения заявок на получение кредита дискриминирует по полу из-за субъективности в данных, на которых она обучалась |
| Ошибки могут стать причиной ущерба | В автономном автомобиле возникает сбой системы, который приводит к ДТП |
| Данные могут быть открыты для злоумышленников | Робот для медицинской диагностики обучается на конфиденциальных данных пациентов, которые хранятся в незащищенном расположении |
| Решения могут подходить не всем | Помощник по автоматизации дома не предоставляет аудиовывод для пользователей с нарушениями зрения |
| Пользователям приходится доверять сложной системе | Финансовое средство на основе ИИ предоставляет рекомендации по инвестированию, но на чем они основаны? |
| Кто отвечает за решения, принятые на основе ИИ? | Невиновный человек был осужден за преступление на основании доказательств от системы распознавания лиц. Кто понесет за это ответственность? |