Modelo de responsabilidade partilhada de inteligência artificial (IA)

Ao considerar e avaliar a integração habilitada por IA, é fundamental compreender o modelo de responsabilidade partilhada e quais as tarefas que a plataforma de IA ou o fornecedor de aplicações de IA gere e quais as tarefas que você gere. As responsabilidades da carga de trabalho variam consoante se a integração da IA se baseia em software como serviço (SaaS), plataforma como serviço (PaaS) ou infraestrutura como serviço (IaaS).

Divisão de responsabilidade

Tal como nos serviços cloud, existem várias opções quando implementa capacidades de IA para a sua organização. Dependendo da opção escolhida, você assume a responsabilidade por diferentes partes das operações e políticas necessárias para usar a IA com segurança.

O diagrama a seguir ilustra as áreas de responsabilidade entre você e a Microsoft de acordo com o tipo de implantação.

Visão geral da camada de IA

Uma aplicação com IA consiste em três camadas de funcionalidade que agrupam tarefas que você ou um fornecedor de IA realizam. As responsabilidades de segurança geralmente residem na parte que executa as tarefas, mas um fornecedor de IA pode optar por expor a segurança ou outros controlos como opção de configuração para si, conforme apropriado. Estas três camadas incluem:

Plataforma de IA

A camada de plataforma de IA fornece os recursos de IA para os aplicativos. No nível da plataforma, é necessário construir e proteger a infraestrutura que executa o modelo de IA, os dados de treino e configurações específicas que alteram o comportamento do modelo, como pesos e vieses. Esta camada de plataforma oferece acesso à funcionalidade através de APIs. As APIs transmitem texto conhecido como metaprompt para o modelo de IA para processamento, depois devolvem o resultado gerado, conhecido como prompt-response.

Considerações de segurança da plataforma de IA - Para proteger a plataforma de IA contra entradas maliciosas, um sistema de segurança deve filtrar as instruções potencialmente prejudiciais enviadas ao modelo de IA (entradas). Como os modelos de IA são generativos, também podem gerar e devolver algum conteúdo prejudicial ao utilizador (outputs). Qualquer sistema de segurança deve primeiro proteger contra entradas e saídas potencialmente prejudiciais de várias categorias, incluindo ódio, fugas e outros danos. Estas classificações de danos tendem a evoluir ao longo do tempo com base no conhecimento do modelo, local e indústria.

A Microsoft tem sistemas de segurança integrados para ofertas de PaaS e SaaS:

• PaaS - Serviço OpenAI do Azure
• SaaS - Copiloto de Segurança da Microsoft

Aplicação de IA

O aplicativo de IA acessa os recursos de IA e fornece o serviço ou interface que o usuário consome. Os componentes nesta camada podem variar de relativamente simples a altamente complexos, dependendo da aplicação. As aplicações de IA autónomas mais simples funcionam como interface para um conjunto de APIs que pegam num prompt de utilizador baseado em texto e transmitem esses dados ao modelo para resposta. Aplicações de IA mais complexas incluem a capacidade de fundamentar o prompt do utilizador com contexto adicional, incluindo uma camada de persistência, índice semântico ou plugins que permitam o acesso a mais fontes de dados. As aplicações avançadas de IA também podem interagir com aplicações e sistemas existentes. Aplicações e sistemas existentes podem processar texto, áudio e imagens para gerar vários tipos de conteúdo.

Considerações sobre a segurança de aplicações de IA - Construa um sistema de segurança de aplicações para proteger a aplicação de IA de atividades maliciosas. O sistema de segurança proporciona uma inspeção profunda do conteúdo utilizado no metaprompt enviado ao modelo de IA. O sistema de segurança também inspeciona as interações com quaisquer plugins, conectores de dados e outras aplicações de IA (conhecidas como orquestração por IA). Uma forma de incorporar isto na sua própria aplicação de IA baseada em IaaS/PaaS é utilizar o serviço Azure AI Content Safety. Outros recursos estão disponíveis dependendo das suas necessidades.

Uso de IA

A camada de uso de IA descreve como os recursos de IA são usados e consumidos. A IA generativa oferece um novo tipo de interface utilizador/computador, que é fundamentalmente diferente de outras interfaces de computador, como APIs, prompts de comandos e interfaces gráficas de utilizador (GUIs). A interface de IA generativa é interativa e dinâmica, permitindo que as capacidades do computador se ajustem ao usuário e sua intenção. A interface de IA generativa contrasta com interfaces anteriores que forçam principalmente os usuários a aprender o design e a funcionalidade do sistema e se ajustar a ele. Esta interatividade permite que a intervenção do utilizador, em vez dos projetistas de aplicações, tenha um elevado nível de influência na saída do sistema, tornando as proteções de segurança essenciais para proteger pessoas, dados e ativos empresariais.

Considerações de segurança no uso de IA - Proteger o uso de IA é semelhante a proteger qualquer sistema informático, pois depende de garantias de segurança para controlos de identidade e acessos, proteções e monitorização de dispositivos, proteção e governação de dados, controlos administrativos e outros controlos.

O comportamento e a responsabilização do utilizador exigem mais ênfase porque exercem mais influência sobre a saída dos sistemas. É fundamental atualizar as políticas de utilização aceitável e educar os utilizadores sobre as diferenças entre aplicações de TI padrão e aplicações habilitadas por IA. As políticas de uso aceitável devem incluir considerações específicas da IA relacionadas com segurança, privacidade e ética. Além disso, ensine os utilizadores sobre ataques baseados na IA que os atacantes podem usar para enganar os utilizadores com textos, vozes, vídeos falsos e outros conteúdos convincentes.

Os seguintes recursos definem tipos de ataque específicos para IA:

• Classificação de gravidade de vulnerabilidade do Centro de Resposta de Segurança da Microsoft (MSRC) para sistemas de IA
• Cenário de ameaças adversariais MITRE para sistemas de inteligência artificial (ATLAS)
• OWASP top 10 para aplicações de modelo de linguagem grande (LLM)
• Top 10 de segurança do OWASP Machine Learning (ML)
• Estrutura de gestão de riscos de IA do NIST

Ciclo de vida da segurança

Tal como acontece com a segurança para outros tipos de capacidade, é fundamental planear uma abordagem completa. Uma abordagem completa inclui pessoas, processos e tecnologia em todo o ciclo de vida da segurança: identificar, proteger, detetar, responder, recuperar e governar. Qualquer lacuna ou fraqueza neste ciclo de vida pode levá-lo a:

• Falha na proteção de ativos importantes
• Experimenta ataques evitáveis
• Ser incapaz de lidar com ataques
• Não conseguir restaurar rapidamente serviços críticos para o negócio
• Aplicar controlos de forma inconsistente

Para mais informações sobre a natureza única dos testes de ameaças por IA, consulte a Microsoft AI Red Team está a construir o futuro de uma IA mais segura.

Configurar antes de personalizar

A Microsoft recomenda que as organizações comecem com abordagens baseadas em SaaS, como o modelo Copilot, para a adoção inicial da IA e para todas as cargas de trabalho subsequentes de IA. Esta abordagem minimiza o nível de responsabilidade e experiência que a sua organização deve fornecer para conceber, operar e garantir a segurança destas capacidades altamente complexas.

Se as capacidades atuais prontas a usar não satisfazem as necessidades específicas de uma carga de trabalho, pode adotar um modelo PaaS utilizando serviços de IA, como o Azure OpenAI Service, para satisfazer esses requisitos específicos.

Apenas organizações com profunda experiência em ciência de dados e nas considerações de segurança, privacidade e éticas da IA devem adotar a construção de modelos personalizada.

Para ajudar a trazer a IA ao mundo, a Microsoft está a desenvolver soluções Copilot para cada uma das principais soluções de produtividade: desde o Bing e Windows até ao GitHub e Microsoft 365. A Microsoft está a desenvolver soluções full-stack para todos os tipos de cenários de produtividade. A Microsoft oferece estas capacidades como soluções SaaS. A Microsoft integra estas capacidades na interface do produto, onde são ajustadas para ajudar o utilizador em tarefas específicas para aumentar a produtividade.

A Microsoft desenvolve todas as soluções Copilot de acordo com os fortes princípios da Microsoft para a governação da IA.

Próximos passos

Saiba mais sobre as melhores práticas de segurança em IA do Azure.

Saiba mais sobre os requisitos de desenvolvimento de produtos da Microsoft para IA responsável no Microsoft Responsible AI Standard.

Saiba mais sobre responsabilidades compartilhadas para computação em nuvem.