Os modelos de linguagem grandes (LLMs, na sigla em inglês) podem traduzir idiomas, resumir textos, gerar textos criativos, gerar códigos, executar bots de bate-papo e assistentes virtuais e complementar mecanismos de pesquisa e sistemas de recomendação. No entanto, os recursos e usos em evolução criam potencial para aplicação incorreta, uso indevido e consequências não intencionais ou imprevistas. Os LLMs podem gerar resultados inesperados, incluindo texto ofensivo, insensível ou incorreto.
Pela versatilidade dos LLMs, é difícil prever exatamente quais tipos de resultados indesejados ou imprevistos eles podem produzir. Considerando esses riscos e complexidades, as APIs de IA generativa da Gemini Enterprise Agent Platform foram projetadas com base nos princípios de IA do Google. No entanto, é importante que os desenvolvedores entendam e testem os modelos para fazer a implantação de forma segura e responsável. Para ajudar os desenvolvedores, o Vertex AI Studio tem filtragem de conteúdo integrada, e nossas APIs de IA generativa têm pontuação de atributos de segurança para ajudar os clientes a testar os filtros de segurança do Google e definir limites de confiança adequados para os casos de uso e negócios deles. Para saber como usar filtros e atributos de segurança em uma API, consulte API Gemini na Agent Platform.
Quando nossas APIs generativas são integradas ao seu caso de uso e contexto exclusivos, pode ser necessário levar em conta outras considerações e limitações de IA responsável. Incentivamos os clientes a promover as práticas recomendadas de imparcialidade, interpretabilidade, privacidade e segurança. Os clientes também são responsáveis por obedecer à Política de uso aceitável (PUA), à Política de uso proibido da IA generativa e a outros Termos específicos do serviço ou requisitos relevantes para o uso de serviços de IA/ML e IA generativa. Google Cloud
Limitações do modelo
As limitações que você pode encontrar ao usar modelos de IA generativa incluem, entre outras:
Casos extremos: casos extremos, raros ou excepcionais que não estão bem representados nos dados de treinamento. Esses casos podem levar a limitações no desempenho do modelo, como excesso de confiança, interpretação incorreta do contexto ou saídas inadequadas.
Alucinações, embasamento e veracidade dos fatos do modelo: os modelos de IA generativa precisam de contexto embasado em informações do mundo real, propriedades físicas e compreensão precisa dos seus dados específicos para reduzir a chance de o modelo produzir resultados imprecisos, irrelevantes ou sem sentido. Para saber mais sobre o embasamento no Agent Platform, consulte a Visão geral do embasamento.
Qualidade de dados e ajuste: a qualidade, a acurácia e o viés do comando ou da entrada de dados em um modelo podem ter um impacto significativo na qualidade das respostas dele. Se os usuários inserirem dados ou comandos incorretos, o modelo poderá ter um desempenho abaixo do ideal ou fornecer saídas de modelo falsas.
Amplificação de vieses: os modelos de IA generativa podem amplificar inadvertidamente os vieses atuais nos dados de treinamento, levando a saídas que podem reforçar ainda mais os preconceitos sociais e o tratamento desigual de determinados grupos.
Qualidade de idioma: embora os modelos produzam recursos multilíngues impressionantes nos comparativos de mercado que avaliamos, a maioria dos nossos comparativos (incluindo todas as avaliações de imparcialidade) está em inglês. Para mais informações, consulte o blog do Google Research.
- Os modelos de IA generativa podem fornecer qualidade inconsistente de serviço para diferentes usuários. Por exemplo, a geração de texto pode não ser tão eficaz para alguns dialetos ou variedades de idiomas devido à sub-representação nos dados de treinamento. O desempenho pode ser pior para idiomas diferentes do inglês ou variedades de língua inglesa com menos representação.
Comparativos de mercado e subgrupos de imparcialidade: as análises de imparcialidade do Google Research com relação aos nossos modelos de IA generativa não fornecem uma listagem completa dos vários riscos potenciais. Por exemplo, nos concentramos em vieses nos eixos de gênero, raça, etnia e religião, mas realizamos a análise apenas nos dados em inglês e nos resultados do modelo. Para mais informações, consulte o blog do Google Research.
Conhecimento de domínio limitado: os modelos de IA generativa podem não ter a profundidade de informações necessária para fornecer respostas precisas e detalhadas sobre tópicos altamente especializados ou técnicos, o que resulta em informações superficiais ou incorretas. Para casos de uso especializados e complexos, os modelos precisam ser ajustados com dados específicos do domínio. Além disso, é necessário haver uma supervisão humana significativa em contextos em que há o potencial de afetar materialmente direitos individuais.
Comprimento e estrutura de entradas e saídas: os modelos de IA generativa têm um limite máximo de tokens de entrada e saída. Se a entrada ou a saída excederem esse limite, nossos classificadores de segurança não serão aplicados, o que poderá levar a um desempenho insatisfatório do modelo. Embora os modelos hospedados na Agent Platform sejam projetados para processar uma grande variedade de formatos de texto, o desempenho deles pode ser afetado se os dados de entrada tiverem uma estrutura incomum ou complexa.
Práticas recomendadas
Para utilizar essa tecnologia com segurança e responsabilidade, também é importante considerar outros riscos específicos para o caso de uso, usuários e contexto empresarial, além das salvaguardas técnicas integradas.
Recomendamos seguir estas etapas:
- Analise os riscos de segurança do aplicativo.
- Realize testes de segurança de acordo com seu caso de uso.
- Configure os filtros de segurança, se necessário.
- Peça o feedback do usuário e monitore os conteúdos.
Monitoramento de abuso
Google Cloud criou processos que podem ser usados para ajudar a detectar possíveis abusos e violações dos nossos termos relacionados ao uso dos Serviços de IA generativa. Saiba mais sobre esses processos e os requisitos mais rigorosos para modelos ou recursos designados como "IA avançada" na nossa documentação de monitoramento de abuso.
Denunciar abuso
Denuncie suspeitas de abuso do Serviço ou de qualquer saída gerada que contenha material inapropriado ou informações imprecisas usando o seguinte formulário: Denunciar uma suspeita de abuso no Google Cloud.
Outros recursos
- Saiba mais sobre as recomendações do Google para práticas de IA responsável.
- Leia nosso blog Uma programação compartilhada para o progresso responsável da IA