Este princípio no pilar de segurança do Google Cloud Well-Architected Framework fornece recomendações para ajudar você a proteger seus sistemas de IA. Essas recomendações estão alinhadas com o framework de IA segura (SAIF) do Google, que oferece uma abordagem prática para resolver as preocupações de segurança e risco dos sistemas de IA. O SAIF é um framework conceitual que visa fornecer padrões do setor para criar e implantar a IA de forma responsável.
Visão geral do princípio
Para garantir que seus sistemas de IA atendam aos requisitos de segurança, privacidade e conformidade, adote uma estratégia holística que comece com o design inicial e se estenda à implantação e às operações. Você pode implementar essa estratégia holística aplicando os seis elementos principais do SAIF.
O Google usa a IA para aprimorar as medidas de segurança, como identificar ameaças, automatizar tarefas de segurança e melhorar os recursos de detecção, mantendo os humanos no circuito para decisões críticas.
O Google enfatiza uma abordagem colaborativa para avançar a segurança da IA. Essa abordagem envolve a parceria com clientes, setores e governos para aprimorar as diretrizes do SAIF e oferecer recursos práticos e acionáveis.
As recomendações para implementar esse princípio são agrupadas nas seções a seguir:
Recomendações para usar a IA com segurança
Para usar a IA com segurança, você precisa de controles de segurança básicos e específicos da IA. Esta seção oferece uma visão geral das recomendações para garantir que suas implantações de IA e ML atendam aos requisitos de segurança, privacidade e conformidade da sua organização. Para uma visão geral dos princípios e recomendações arquitetônicos específicos para cargas de trabalho de IA e ML em Google Cloud, consulte a perspectiva de IA e ML no Well-Architected Framework.
Definir metas e requisitos claros para o uso da IA
Essa recomendação é relevante para as seguintes áreas de foco:
- Governança, risco e conformidade na nuvem
- Segurança de IA e ML
Essa recomendação está alinhada ao elemento do SAIF sobre a contextualização dos riscos do sistema de IA nos processos de negócios relacionados. Ao criar e desenvolver sistemas de IA, é importante entender suas metas de negócios, riscos e requisitos de conformidade específicos.
Manter os dados seguros e evitar perdas ou manuseio inadequado
Essa recomendação é relevante para as seguintes áreas de foco:
- Segurança da infraestrutura
- Gerenciamento de identidade e acesso
- Segurança de dados
- Segurança para aplicativos
- Segurança de IA e ML
Essa recomendação está alinhada aos seguintes elementos do SAIF:
- Amplie as bases de segurança para o ecossistema de IA. Esse elemento inclui coleta, armazenamento, controle de acesso e proteção contra envenenamento de dados.
- Contextualize os riscos do sistema de IA. Enfatize a segurança de dados para oferecer suporte aos objetivos de negócios e à conformidade.
Manter os pipelines de IA seguros e robustos contra adulteração
Essa recomendação é relevante para as seguintes áreas de foco:
- Segurança da infraestrutura
- Gerenciamento de identidade e acesso
- Segurança de dados
- Segurança para aplicativos
- Segurança de IA e ML
Essa recomendação está alinhada aos seguintes elementos do SAIF:
- Amplie as bases de segurança para o ecossistema de IA. Como um elemento fundamental para estabelecer um sistema de IA seguro, proteja seu código e os artefatos do modelo.
- Adapte os controles para ciclos de feedback mais rápidos. Como é importante para a mitigação e a resposta a incidentes, acompanhe seus recursos e execuções de pipeline.
Implantar apps em sistemas seguros usando ferramentas e artefatos seguros
Essa recomendação é relevante para as seguintes áreas de foco:
- Segurança da infraestrutura
- Gerenciamento de identidade e acesso
- Segurança de dados
- Segurança para aplicativos
- Segurança de IA e ML
O uso de sistemas seguros e ferramentas e artefatos validados em aplicativos baseados em IA está alinhado ao elemento do SAIF sobre a expansão de bases de segurança robustas para o ecossistema de IA e a cadeia de suprimentos. Essa recomendação pode ser abordada seguindo estas etapas:
- Implementar um ambiente seguro para treinamento e implantação de ML
- Usar imagens de contêiner validadas
- Aplicar as diretrizes dos Níveis da cadeia de suprimentos para artefatos de software (SLSA, na sigla em inglês)
Proteger e monitorar entradas
Essa recomendação é relevante para as seguintes áreas de foco:
- Geração de registros, auditoria e monitoramento
- Operações de segurança
- Segurança de IA e ML
Essa recomendação está alinhada ao elemento do SAIF sobre a extensão da detecção e resposta para trazer a IA para o universo de ameaças de uma organização. Para evitar problemas, é fundamental gerenciar comandos para sistemas de IA generativa, monitorar entradas e controlar o acesso do usuário.
Recomendações para governança de IA
Todas as recomendações nesta seção são relevantes para a seguinte área de foco: governança, risco e conformidade na nuvem.
Google Cloud oferece um conjunto robusto de ferramentas e serviços que podem ser usados para criar sistemas de IA responsáveis e éticos. Também oferecemos um framework de políticas, procedimentos e considerações éticas que podem orientar o desenvolvimento, a implantação e o uso de sistemas de IA.
Conforme refletido nas nossas recomendações, a abordagem do Google para governança de IA é orientada pelos seguintes princípios:
- Imparcialidade
- Transparência
- Responsabilidade
- Privacidade
- Segurança
Usar indicadores de imparcialidade
Gemini Enterprise Agent Platform pode detectar vieses durante a coleta de dados ou o processo de avaliação pós-treinamento. A Agent Platform fornece métricas de avaliação de modelo como viés nos dados e vieses de modelo para ajudar você a avaliar o modelo em relação a vieses.
Essas métricas estão relacionadas à imparcialidade em diferentes categorias, como raça, gênero e classe. No entanto, a interpretação de desvios estatísticos não é um exercício simples, porque as diferenças entre categorias podem não ser resultado de vieses ou um sinal de dano.
Usar o Vertex Explainable AI
Para entender como os modelos de IA tomam decisões, use o Vertex Explainable AI. Esse recurso ajuda a identificar possíveis vieses que podem estar ocultos na lógica do modelo.
Esse recurso de explicabilidade é integrado ao BigQuery ML e ao Vertex Explainable AI, que fornecem explicações baseadas em recursos. É possível fazer a explicabilidade no BigQuery ML ou registrar seu modelo na Agent Platform e fazer a explicabilidade nela.
Rastrear linhagem de dados
Acompanhe a origem e a transformação dos dados usados nos seus sistemas de IA. Esse rastreamento ajuda a entender a jornada dos dados e identificar possíveis fontes de vieses ou erros.
A linhagem de dados é um recurso do Knowledge Catalog que permite acompanhar como os dados se movimentam nos sistemas: de onde vêm, para onde vão e quais transformações são aplicadas a eles.
Estabelecer responsabilidade
Estabeleça uma responsabilidade clara pelo desenvolvimento, implantação e resultados dos seus sistemas de IA.
Use Cloud Logging para registrar eventos e decisões importantes tomadas pelos seus sistemas de IA. Os registros fornecem uma trilha de auditoria para ajudar você a entender o desempenho do sistema e identificar áreas de melhoria.
Use Error Reporting para analisar sistematicamente os erros cometidos pelos sistemas de IA. Essa análise pode revelar padrões que apontam para vieses subjacentes ou áreas em que o modelo precisa de mais refinamento.
Implementar privacidade diferencial
Durante o treinamento de modelo, adicione ruído aos dados para dificultar a identificação de pontos de dados individuais, mas ainda permitir que o modelo aprenda com eficiência. Com SQL no BigQuery, é possível transformar os resultados de uma consulta com agregações particulares diferenciadas aggregations.