Noções básicas sobre a IA responsável
Na Microsoft, o desenvolvimento de software de IA é guiado por um conjunto de seis princípios, criados para garantir que os aplicativos de IA forneçam soluções incríveis para problemas difíceis sem consequências negativas involuntárias.
Imparcialidade
Os sistemas de IA devem tratar todas as pessoas de maneira justa. Por exemplo, suponha que você crie um modelo de machine learning para dar suporte a um aplicativo de aprovação de empréstimos para um banco. O modelo deve prever se o empréstimo deve ser aprovado ou negado sem parcialidade. Essa parcialidade pode ser baseado em gênero, etnia ou outros fatores que resultam em uma vantagem ou desvantagem injusta para grupos específicos de candidatos.
O Azure Machine Learning inclui a capacidade de interpretar modelos e quantificar a medida em que cada recurso dos dados influencia a previsão do modelo. Essa capacidade ajuda os cientistas de dados e os desenvolvedores a identificar e reduzir desvios no modelo.
Outro exemplo é a implementação da IA responsável pela Microsoft com o serviço de Detecção Facial, que desativa as funcionalidades de reconhecimento facial que podem ser usadas para tentar inferir estados emocionais e atributos de identidade. Essas funcionalidades, se mal utilizadas, podem submeter as pessoas a estereótipos, discriminação ou negação injusta de serviços.
Para obter mais detalhes sobre as considerações quanto à imparcialidade, assista ao vídeo a seguir.
Confiabilidade e segurança
Os sistemas de IA devem ser executados de maneira confiável e segura. Por exemplo, considere um sistema de software baseado em IA para um veículo autônomo ou um modelo de machine learning que diagnostica os sintomas dos pacientes e recomenda as prescrições. A não confiabilidade nesses tipos de sistema pode resultar em risco substancial à vida humana.
O desenvolvimento de aplicativos de software baseado em IA deve estar sujeito a rigorosos processos de gerenciamento de implantação e de teste para verificar se eles funcionam conforme o esperado antes do lançamento.
Para obter mais informações com relação a considerações sobre confiabilidade e segurança, assista ao vídeo a seguir.
Privacidade e segurança
Os sistemas de IA devem ser seguros e respeitar a privacidade. Os modelos de machine learning nos quais os sistemas de IA se baseiam dependem de grandes volumes de dados, que podem conter detalhes pessoais que precisam ser mantidos particulares. Mesmo depois que os modelos são treinados e o sistema está em produção, a privacidade e a segurança precisam ser levadas em consideração. Como o sistema usa novos dados para fazer previsões ou tomar medidas, tanto os dados como as decisões tomadas com base nos dados podem estar sujeitos a questões de privacidade ou segurança.
Para obter mais detalhes sobre as considerações quanto à privacidade e segurança, assista ao vídeo a seguir.
Inclusão
Os sistemas de IA devem capacitar todos e envolver as pessoas. O IA deve levar benefícios a todas as camadas da sociedade, independentemente da capacidade física, do sexo, da orientação sexual, da etnia ou de outros fatores.
Para obter mais detalhes sobre as considerações quanto à inclusão, assista ao vídeo a seguir.
Transparência
Os sistemas de IA devem ser compreensíveis. Os usuários devem ficar totalmente cientes da finalidade do sistema, de como ele funciona e de quais limitações podem ser esperadas.
Para obter mais detalhes sobre as considerações quanto à transparência, assista ao vídeo a seguir.
Responsabilidade
As pessoas devem ser responsáveis pelos sistemas de IA. Os designers e desenvolvedores de uma solução baseada em IA devem funcionar dentro de uma estrutura de governança e de princípios organizacionais que garantam que a solução cumpra a padrões éticos e legais claramente definidos.
Para obter mais detalhes sobre as considerações quanto à responsabilidade, assista ao vídeo a seguir.
Os princípios da IA responsável podem ajudar você a entender alguns desafios enfrentados pelos desenvolvedores conforme eles tentam criar soluções éticas de IA.
Recursos adicionais
Para obter mais recursos para ajudar você a colocar os princípios de IA responsável em prática, confira https://www.microsoft.com/ai/responsible-ai-resources.
Para ver essas políticas em ação, você pode ler sobre a Estrutura da Microsoft para criar sistemas de IA de modo responsável.