Modelo de responsabilidade compartilhada de IA (inteligência artificial)

Ao considerar e avaliar a integração habilitada por IA, é fundamental entender o modelo de responsabilidade compartilhada e quais tarefas a plataforma de IA ou o provedor de aplicações de IA cuida e quais tarefas você mesmo realiza. As responsabilidades da carga de trabalho variam dependendo se a integração da IA é baseada em software como serviço (SaaS), plataforma como serviço (PaaS) ou infraestrutura como serviço (IaaS).

Divisão de responsabilidade

Assim como nos serviços em nuvem, existem várias opções ao implementar capacidades de IA para sua organização. Dependendo de qual opção você escolher, você assume a responsabilidade por diferentes partes das operações e políticas necessárias para usar a IA com segurança.

O diagrama a seguir ilustra as áreas de responsabilidade entre você e a Microsoft, de acordo com o tipo de implantação.

Visão geral da camada de IA

Um aplicativo habilitado por IA consiste em três camadas de funcionalidade que agrupam tarefas que você ou um provedor de IA realizam. As responsabilidades de segurança geralmente recaem sobre a parte que realiza as tarefas, mas um provedor de IA pode optar por expor controles de segurança ou outros como uma opção de configuração para você, conforme apropriado. Essas três camadas incluem:

Plataforma de inteligência artificial

A camada de plataforma de IA fornece os recursos de IA para os aplicativos. Na camada da plataforma, você precisa construir e proteger a infraestrutura que roda o modelo de IA, os dados de treinamento e configurações específicas que alteram o comportamento do modelo, como pesos e vieses. Essa camada de plataforma oferece acesso à funcionalidade por meio de APIs. As APIs passam texto conhecido como metaprompt para o modelo de IA para processamento, e então retornam o resultado gerado, conhecido como prompt-response.

Considerações de segurança da plataforma de IA - Para proteger a plataforma de IA contra entradas maliciosas, um sistema de segurança deve filtrar as instruções potencialmente prejudiciais enviadas ao modelo de IA (entradas). Como os modelos de IA são generativos, eles também podem gerar e retornar algum conteúdo prejudicial ao usuário (outputs). Qualquer sistema de segurança deve primeiro proteger contra entradas e saídas potencialmente prejudiciais de várias categorias, incluindo ódio, fugas e outros danos. Essas classificações de danos provavelmente evoluirão ao longo do tempo com base no conhecimento do modelo, local e indústria.

A Microsoft tem sistemas de segurança internos para ofertas de PaaS e SaaS:

• PaaS – Serviço OpenAI do Azure
• SaaS – Copilot da Segurança da Microsoft

Aplicativo de IA

O aplicativo de IA acessa os recursos de IA e fornece o serviço ou a interface que o usuário consome. Os componentes nessa camada podem variar de relativamente simples a altamente complexos, dependendo do aplicativo. As aplicações de IA independentes mais simples funcionam como uma interface para um conjunto de APIs que pegam um prompt de usuário baseado em texto e passam esses dados para o modelo para uma resposta. Aplicações de IA mais complexas incluem a capacidade de fundamentar o prompt do usuário com contexto adicional, incluindo uma camada de persistência, um índice semântico ou plugins que permitem acesso a mais fontes de dados. Os aplicativos avançados de IA também podem ser adaptados com aplicativos e sistemas já existentes. Aplicações e sistemas existentes podem processar texto, áudio e imagens para gerar vários tipos de conteúdo.

Considerações sobre segurança de aplicações de IA - Construa um sistema de segurança de aplicações para proteger a aplicação de IA contra atividades maliciosas. O sistema de segurança fornece uma inspeção profunda do conteúdo usado no metaprompt enviado ao modelo de IA. O sistema de segurança também inspeciona as interações com quaisquer plugins, conectores de dados e outras aplicações de IA (conhecidas como orquestração de IA). Uma forma de incorporar isso em sua própria aplicação de IA baseada em IaaS/PaaS é usar o serviço Segurança de Conteúdo de IA do Azure. Outros recursos estão disponíveis dependendo de suas necessidades.

Uso de IA

A camada de uso de IA descreve como os recursos de IA são usados e consumidos. A IA generativa oferece um novo tipo de interface usuário/computador, que é fundamentalmente diferente de outras interfaces de computador, como APIs, prompts de comando e interfaces gráficas (GUIs). A interface de IA generativa é interativa e dinâmica, permitindo que os recursos do computador se ajustem ao usuário e à sua intenção. A interface de IA generativa contrasta com as interfaces anteriores que forçam principalmente os usuários a aprender o design e a funcionalidade do sistema e ajustar-se a eles. Essa interatividade permite que a entrada do usuário, e não dos projetistas de aplicações, tenha um alto nível de influência sobre a saída do sistema, tornando as proteções de segurança críticas para proteger pessoas, dados e ativos empresariais.

Considerações de segurança no uso de IA - Proteger o uso de IA é semelhante a proteger qualquer sistema de computador, pois depende de garantias de segurança para controles de identidade e acesso, proteção e monitoramento de dispositivos, proteção e governança de dados, controles administrativos e outros controles.

O comportamento e a responsabilidade do usuário exigem mais ênfase porque exercem mais influência sobre a produção dos sistemas. É fundamental atualizar as políticas de uso aceitável e educar os usuários sobre as diferenças entre aplicações de TI padrão e aplicações habilitadas por IA. As políticas de uso aceitável devem incluir considerações específicas de IA relacionadas à segurança, privacidade e ética. Além disso, eduque os usuários sobre ataques baseados em IA que os atacantes podem usar para enganá-los com textos falsos convincentes, vozes, vídeos e mais.

Os seguintes recursos definem tipos de ataque específicos para IA:

• Classificação de severidade de vulnerabilidades do MSRC (Microsoft Security Response Center) para sistemas de IA
• Cenário de ameaças adversárias MITRE para sistemas de inteligência artificial (ATLAS)
• Top 10 do OWASP para aplicativos LLM (Modelo de Linguagem Grande)
• Top 10 do OWASP para segurança de Machine Learning (ML)
• Estrutura de gerenciamento de riscos de IA do NIST

Ciclo de vida da segurança

Assim como acontece com a segurança de outros tipos de funcionalidade, é essencial planejar uma abordagem completa. Uma abordagem completa inclui pessoas, processos e tecnologia em todo o ciclo de vida da segurança: identificar, proteger, detectar, responder, recuperar e governar. Qualquer lacuna ou fraqueza nesse ciclo de vida pode fazer com que você:

• Falhar ao proteger ativos importantes
• Viva ataques evitáveis
• Ser incapaz de lidar com ataques
• Não conseguir restaurar rapidamente serviços críticos para o negócio
• Aplicar controles inconsistentemente

Para mais informações sobre a natureza única dos testes de ameaças por IA, veja Microsoft AI Red Team está construindo o futuro de uma IA mais segura.

Configurar antes de personalizar

A Microsoft recomenda que as organizações comecem com abordagens baseadas em SaaS, como o modelo Copilot, para a adoção inicial da IA e para todas as cargas de trabalho subsequentes de IA. Essa abordagem minimiza o nível de responsabilidade e expertise que sua organização deve fornecer para projetar, operar e garantir essas capacidades altamente complexas.

Se as capacidades atuais prontas para uso não atenderem às necessidades específicas de uma carga de trabalho, você pode adotar um modelo PaaS usando serviços de IA, como o Serviço OpenAI do Azure, para atender a esses requisitos específicos.

Somente organizações com profundo conhecimento em ciência de dados e considerações de segurança, privacidade e éticas da IA devem adotar a construção de modelos personalizados.

Para ajudar a levar a IA ao mundo, a Microsoft está desenvolvendo soluções Copilot para cada uma das principais soluções de produtividade: desde Bing e Windows até GitHub e Microsoft 365. A Microsoft está desenvolvendo soluções full-stack para todos os tipos de cenários de produtividade. A Microsoft oferece essas capacidades como soluções SaaS. A Microsoft incorpora essas capacidades à interface do produto, onde elas são ajustadas para ajudar o usuário em tarefas específicas para aumentar a produtividade.

A Microsoft desenvolve todas as soluções Copilot de acordo com os fortes princípios da Microsoft para a governança da IA.

Próximas etapas

Saiba mais sobre as práticas recomendadas de segurança da IA do Azure.

Saiba mais sobre os requisitos de desenvolvimento de produtos da Microsoft para IA responsável em O padrão de IA responsável da Microsoft.

Saiba mais sobre as responsabilidades compartilhadas da computação em nuvem.