Compreender a IA Responsável
Como cientista de dados, você pode treinar um modelo de machine learning para prever se alguém é capaz de pagar um empréstimo ou se um candidato é adequado para uma vaga de trabalho. Como os modelos geralmente são usados ao tomar decisões, é importante que os modelos sejam imparcial e transparentes.
Seja qual for o uso de um modelo, considere os princípios de Inteligência Artificial Responsável (de IA Responsável). Dependendo do caso de uso, você pode se concentrar em princípios específicos. No entanto, é uma prática recomendada considerar todos os princípios para garantir que você esteja abordando quaisquer problemas que o modelo possa ter.
A Microsoft listou cinco princípios de IA responsável:
- Imparcialidade e inclusão: Modelos devem tratar todos de forma justa e evitar tratamentos diferentes para grupos semelhantes.
- de confiabilidade e segurança: os modelos devem ser confiáveis, seguros e consistentes. Você deseja que um modelo opere conforme o esperado, lide bem com situações inesperadas e resista à manipulação prejudicial.
- Privacidade e segurança: seja transparente sobre coleta, uso e armazenamento de dados, para dar aos indivíduos controle sobre seus dados. Trate os dados com cuidado para garantir a privacidade de um indivíduo.
- Transparência: quando os modelos influenciam decisões importantes que afetam a vida das pessoas, as pessoas precisam entender como essas decisões foram tomadas e como o modelo funciona.
- de Responsabilidade: assuma a responsabilidade pelas decisões que os modelos podem influenciar e manter o controle humano.
Dica
Saiba mais sobre o Padrão de IA Responsável para a criação de sistemas de IA de acordo com os seis princípios principais.