Surveillance des utilisations abusives

Comme indiqué dans la section 4.3 "Sécurité et utilisation abusive de l'IA générative" des Conditions d'utilisation de Google Cloud Platform, Google utilise la procédure suivante pour détecter les utilisations abusives potentielles et les non-respects de son Règlement sur l'utilisation autorisée et de son Règlement sur les utilisations interdites lorsqu'il fournit des services d'IA générative à ses clients.

  • Détection automatisée : Google utilise des classificateurs de sécurité automatisés pour détecter les utilisations abusives et les cas de non-respect potentiels. Pour en savoir plus sur le fonctionnement technique des classificateurs de sécurité, consultez Configurer des filtres de sécurité.

  • Journalisation des requêtes : si des classificateurs de sécurité automatisés détectent une activité suspecte nécessitant une enquête plus approfondie pour déterminer si un client a enfreint nos règles, Google peut journaliser les requêtes des clients uniquement dans le but de déterminer si une violation des conditions d'utilisation autorisée ou du règlement sur l'utilisation interdite a eu lieu. Ces données ne seront pas utilisées pour entraîner ni affiner des modèles d'IA/ML. Ces données sont stockées de manière sécurisée pendant 90 jours maximum dans la même région ou zone multirégionale sélectionnée par le client pour son projet. Elles respectent les garantiesGoogle Cloud , telles que la résidence des données, Access Transparency et les VPC Service Controls. Les journaux d'invites utilisés pour surveiller les utilisations abusives ne sont pas chiffrés par les clés de chiffrement gérées par le client (CMEK). Les clients ont également la possibilité de demander à être exclus de la journalisation des utilisations abusives (voir ci-dessous).

    • Action : les employés Google autorisés peuvent évaluer les requêtes signalées et contacter le client pour obtenir des précisions. Si vous ne corrigez pas ce comportement, ou en cas d'abus répétés ou graves, l'accès du client à Gemini Enterprise Agent Platform ou aux services Google Cloudpourra être suspendu ou résilié.

    • Services concernés : les services d'IA générative de Google.

    • Clients concernés : seuls les clients dont l'utilisation de Google Cloud est régie par les Conditions d'utilisation de Google Cloud Platform. Cela signifie que les clients disposant d'un contrat-cadre Google Cloud sont exemptés de la journalisation des requêtes pour cette surveillance des utilisations abusives par défaut.

    • Désactivation par le client : les clients peuvent demander une exception en remplissant ce formulaire. Si votre demande est approuvée, Google ne stockera aucune requête associée au compte Google Cloudapprouvé.

Sécurité avancée de l'IA

Comme indiqué dans l'Addendum sur la sécurité de l'IA avancée,Google Cloud a mis en place un système de surveillance des utilisations abusives plus rigoureux pour les modèles désignés comme "IA avancée".

  • Journalisation des requêtes et des réponses : toutes les requêtes et réponses seront journalisées et stockées de manière sécurisée pendant 30 jours maximum, dans le seul but de détecter les utilisations abusives. Ces données ne seront pas utilisées pour entraîner ni ajuster des modèles d'IA/ML. Ces données sont stockées dans la même région ou zone multirégionale que celle sélectionnée par le client pour son projet. Elles respectent les garantiesGoogle Cloud , telles que la résidence des données, Access Transparency et les VPC Service Controls. Les journaux des requêtes et des réponses à des fins de surveillance des utilisations abusives ne sont pas chiffrés par les clés de chiffrement gérées par le client (CMEK). Il est possible que vous ne puissiez pas désactiver la journalisation des réponses aux requêtes lorsque vous utilisez certaines fonctionnalités d'IA avancée. Pour en savoir plus, veuillez contacter l'équipe de gestion de votre compte.

  • Enquêtes automatisées : Google déploie des outils d'investigation automatisés, y compris des classificateurs de sécurité, pour analyser les données enregistrées et détecter les utilisations abusives et les cas de non-respect potentiels.

  • Action : les employés Google autorisés peuvent évaluer les requêtes signalées et contacter le client pour obtenir des précisions. Si le client ne corrige pas son comportement, ou en cas d'abus répétés ou graves, son accès à Gemini Enterprise Agent Platform ou aux services Google Cloudpourra être suspendu ou résilié.

  • Services concernés : modèles et fonctionnalités désignés comme "IA avancée", y compris :

    • Claude Mythos (toutes les versions)
    • Claude Fable (toutes les versions)
    • Claude Sonnet >=5 et Claude Opus >=4.7 lorsqu'ils sont utilisés pour des cas d'utilisation à double usage à haut risque ou interdits couverts par le programme de vérification de cybersécurité d'Anthropic

  • Désactivation par le client : il est possible que la conservation zéro des données ne soit pas possible lorsque vous utilisez certaines fonctionnalités d'IA avancées. Pour en savoir plus, veuillez contacter l'équipe chargée de gérer votre compte. Consultez la section suivante pour savoir comment gérer l'acceptation de l'avenant.

Vous devez accepter l'avenant sur la sécurité de l'IA avancée une fois par projet avant de pouvoir activer les modèles d'IA avancée dans ce projet. Le consentement est effectué dans Model Garden via la console Google Cloud avant d'activer un modèle d'IA avancée.

Les utilisateurs qui donnent leur consentement doivent confirmer qu'ils agissent au nom de leur organisation et qu'ils disposent de l'autorité requise pour engager le client vis-à-vis des obligations de l'avenant. Pour donner son consentement, un utilisateur doit disposer de l'autorisation aiplatform.consents.update, qui est incluse dans le rôle aiplatform.admin.

Gérer l'avenant sur la sécurité de l'IA avancée

Pour empêcher vos utilisateurs d'accepter cet avenant, les administrateurs peuvent :

Conditions spécifiques aux partenaires

L'utilisation de modèles partenaires sur Gemini Enterprise Agent Platform est soumise à des conditions spécifiques aux partenaires.

Anthropic

L'utilisation des modèles Anthropic sur Gemini Enterprise Agent Platform est régie par les Conditions d'utilisation commerciales d'Anthropic ou par tout autre accord applicable avec Anthropic. L'utilisation de l'IA avancée d'Anthropic est régie par la section F des Conditions spécifiques du service d'Anthropic. Les systèmes de surveillance des utilisations abusives décrits sur cette page sont utilisés pour s'assurer du respect de ces conditions.

Conservation des données

Pour Anthropic Claude Fable 5 sur Google Cloud et Mythos 5, les requêtes et les réponses sont conservées pendant 30 jours maximum. Pour utiliser Claude Fable 5 sur Google Cloud et Mythos 5, comme l'exige Anthropic, vous devez activer le partage de ces données avec Anthropic pour la surveillance des utilisations abusives.

Étapes suivantes