Desafios e riscos com a IA
A inteligência artificial é uma ferramenta avançada que pode ser usada para levar muitos benefícios ao mundo. No entanto, como qualquer ferramenta, ela deve ser usada com responsabilidade.
A seguinte tabela mostra alguns dos possíveis desafios e riscos enfrentados por um desenvolvedor de aplicativos de IA.
| Desafio ou risco | Exemplo |
|---|---|
| A tendência pode afetar os resultados | Um modelo de aprovação de empréstimo discrimina por gênero devido à tendência dos dados com os quais ele foi treinado |
| Erros podem causar danos | Um veículo autônomo enfrenta uma falha do sistema e causa uma colisão |
| Os dados podem ser expostos | Um bot de diagnóstico médico é treinado usando dados confidenciais de pacientes, que ficam armazenados de forma insegura |
| As soluções podem não funcionar para todos | Um assistente de automação doméstica não fornece saída de áudio para usuários com deficiência visual |
| Os usuários devem confiar em um sistema complexo | Uma ferramenta financeira baseada em IA faz recomendações de investimento, mas com base em quê? |
| Quem é responsável por decisões baseadas em IA? | Uma pessoa inocente é condenada por um crime com base em evidências de reconhecimento facial. Quem é responsável? |