Este princípio no pilar de segurança do Google Cloud Well-Architected Framework fornece recomendações para ajudar você a proteger seus sistemas de IA. Essas recomendações estão alinhadas com o Framework de IA Segura (SAIF) do Google, que oferece uma abordagem prática para lidar com as preocupações de segurança e risco dos sistemas de IA. O SAIF é um framework conceitual que visa fornecer padrões para todo o setor para criar e implantar IA de forma responsável.
Visão geral do princípio
Para garantir que seus sistemas de IA atendam aos requisitos de segurança, privacidade e compliance, você precisa adotar uma estratégia holística que comece com o design inicial e se estenda à implantação e às operações.
O Google usa a IA para aprimorar as medidas de segurança, como identificar ameaças, automatizar tarefas de segurança e melhorar os recursos de detecção, mantendo o modelo com intervenção humana (human in the loop) nas decisões críticas.
O Google enfatiza uma abordagem colaborativa para promover a segurança da IA. Essa abordagem envolve parcerias com clientes, setores e governos para melhorar as diretrizes do SAIF e oferecer recursos práticos e acionáveis.
As recomendações para implementar esse princípio estão agrupadas nas seguintes seções:
Recomendações para usar a IA com segurança
Para usar a IA de forma segura, você precisa de controles de segurança básicos e específicos para IA. Nesta seção, apresentamos uma visão geral das recomendações para garantir que suas implantações de IA e ML atendam aos requisitos de segurança, privacidade e conformidade da sua organização. Para uma visão geral dos princípios e recomendações de arquitetura específicos para cargas de trabalho de IA e ML no Google Cloud, consulte a perspectiva de IA e ML no Well-Architected Framework.
Defina metas e requisitos claros para o uso da IA
Esta recomendação é relevante para as seguintes áreas de foco:
- Governança, risco e compliance na nuvem
- Segurança de IA e ML
Essa recomendação está alinhada ao elemento do SAIF sobre a contextualização dos riscos do sistema de IA nos processos comerciais de apoio. Ao projetar e desenvolver sistemas de IA, é importante entender as metas de negócios, os riscos e os requisitos de conformidade específicos.
Proteger os dados e evitar perdas ou manuseio incorreto
Esta recomendação é relevante para as seguintes áreas de foco:
- Segurança da infraestrutura
- Gerenciamento de identidade e acesso
- Segurança de dados
- Segurança para aplicativos
- Segurança de IA e ML
Essa recomendação está alinhada com os seguintes elementos do SAIF:
- Expanda as bases de segurança para o ecossistema de IA. Esse elemento inclui coleta de dados, armazenamento, controle de acesso e proteção contra envenenamento de dados.
- Contextualize os riscos dos sistemas de IA. Enfatize a segurança de dados para apoiar os objetivos de negócios e a conformidade.
Manter os pipelines de IA seguros e robustos contra adulterações
Esta recomendação é relevante para as seguintes áreas de foco:
- Segurança da infraestrutura
- Gerenciamento de identidade e acesso
- Segurança de dados
- Segurança para aplicativos
- Segurança de IA e ML
Essa recomendação está alinhada com os seguintes elementos do SAIF:
- Expanda as bases de segurança para o ecossistema de IA. Como um elemento-chave para estabelecer um sistema de IA seguro, proteja seus artefatos de código e modelo.
- Adaptar os controles para ciclos de feedback mais rápidos. Como é importante para mitigação e resposta a incidentes, rastreie seus recursos e execuções de pipeline.
Implantar apps em sistemas seguros usando ferramentas e artefatos seguros
Esta recomendação é relevante para as seguintes áreas de foco:
- Segurança da infraestrutura
- Gerenciamento de identidade e acesso
- Segurança de dados
- Segurança para aplicativos
- Segurança de IA e ML
O uso de sistemas seguros e ferramentas e artefatos validados em aplicativos baseados em IA está alinhado com o elemento do SAIF sobre a expansão de bases de segurança sólidas para o ecossistema e a cadeia de suprimentos de IA. Para resolver essa recomendação, siga estas etapas:
- Implementar um ambiente seguro para treinamento e implantação de ML
- Usar imagens de contêiner validadas
- Aplique as diretrizes dos Níveis da cadeia de suprimentos para artefatos de software (SLSA)
Proteger e monitorar entradas
Esta recomendação é relevante para as seguintes áreas de foco:
- Geração de registros, auditoria e monitoramento
- Operações de segurança
- Segurança de IA e ML
Essa recomendação está alinhada com o elemento do SAIF sobre estender a detecção e a resposta para trazer a IA para o universo de ameaças de uma organização. Para evitar problemas, é fundamental gerenciar os comandos para sistemas de IA generativa, monitorar as entradas e controlar o acesso dos usuários.
Recomendações para governança de IA
Todas as recomendações nesta seção são relevantes para a seguinte área de foco: governança, risco e compliance na nuvem.
Google Cloud oferece um conjunto robusto de ferramentas e serviços que você pode usar para criar sistemas de IA responsáveis e éticos. Também oferecemos um framework de políticas, procedimentos e considerações éticas que podem orientar o desenvolvimento, a implantação e o uso de sistemas de IA.
Como refletido em nossas recomendações, a abordagem do Google para a governança de IA é guiada pelos seguintes princípios:
- Imparcialidade
- Transparência
- Responsabilidade
- Privacidade
- Segurança
Usar indicadores de imparcialidade
A Gemini Enterprise Agent Platform pode detectar vieses durante a coleta de dados ou o processo de avaliação pós-treinamento. A Agent Platform fornece métricas de avaliação de modelo, como viés nos dados e viés no modelo, para ajudar você a avaliar o modelo quanto ao viés.
Essas métricas estão relacionadas à imparcialidade em diferentes categorias, como raça, gênero e classe. No entanto, interpretar desvios estatísticos não é um exercício simples, porque as diferenças entre as categorias podem não ser resultado de viés ou um sinal de dano.
Usar a IA explicável
Para entender como seus modelos de IA tomam decisões, use técnicas de explicabilidade, como atribuições de atributos. A explicabilidade ajuda a identificar possíveis vieses que podem estar ocultos na lógica do modelo.
Por exemplo, é possível gerar explicações baseadas em atributos no BigQuery ML e explicações tabulares na Agent Platform.
Rastrear linhagem de dados
Rastreie a origem e a transformação dos dados usados nos seus sistemas de IA. Esse rastreamento ajuda a entender a jornada dos dados e identificar possíveis fontes de viés ou erro.
A linhagem de dados é um recurso do Knowledge Catalog que permite acompanhar como os dados se movimentam nos sistemas: de onde vêm, para onde vão e quais transformações são aplicadas a eles.
Estabelecer responsabilidade
Estabeleça uma responsabilidade clara pelo desenvolvimento, implantação e resultados dos seus sistemas de IA.
Use o Cloud Logging para registrar eventos e decisões importantes tomadas pelos seus sistemas de IA. Os registros fornecem uma trilha de auditoria para ajudar você a entender o desempenho do sistema e identificar áreas de melhoria.
Use o Error Reporting para analisar sistematicamente os erros cometidos pelos sistemas de IA. Essa análise pode revelar padrões que apontam para vieses subjacentes ou áreas em que o modelo precisa de mais refinamento.
Implementar a privacidade diferencial
Durante o treinamento de modelo, adicione ruído aos dados para dificultar a identificação de pontos de dados individuais, mas ainda permitir que o modelo aprenda de forma eficaz. Com o SQL no BigQuery, é possível transformar os resultados de uma consulta com agregações particulares diferenciadas.