Gemini Enterprise Agent Platform et conservation zéro donnée

Google a été le premier sur le marché à proposer un engagement en matière de confidentialité pour l'IA/le ML, en phase avec sa volonté d'offrir à ses clients le plus haut niveau de sécurité et de contrôle sur leurs données stockées dans le cloud. Cet engagement s'applique aussi aux produits d'IA générative de Google Cloud. Google s'assure que ses équipes respectent ces engagements à l'aide de pratiques solides de gouvernance des données, qui incluent l'examen des données utilisées par Google Cloud pour le développement de ses produits. Pour en savoir plus sur la manière dont Google traite les données, consultez l'Avenant relatif au traitement des données dans le cloud (CDPA) de Google.

Restriction liée à l'entraînement

Comme indiqué dans la partie "Restriction d'entraînement" de la section "Conditions d'utilisation des Services" des Conditions spécifiques des Services, Google n'utilisera pas vos données pour entraîner ou affiner des modèles d'IA ou de ML sans votre autorisation ou instruction préalable. Cela s'applique à tous les modèles gérés sur Gemini Enterprise Agent Platform, y compris les modèles en disponibilité générale et en pré-disponibilité générale.

Conservation des données client et conservation zéro donnée

Les données client sont conservées dans Gemini Enterprise Agent Platform pour les modèles en tant que service (Models as a Service, MaaS) pendant des périodes limitées dans les scénarios et conditions suivants. Pour atteindre l'objectif de conservation zéro donnée, les clients doivent prendre des mesures spécifiques dans chacun de ces domaines :

Enregistrement des prompts pour la surveillance des utilisations abusives des modèles Google : comme indiqué dans la section 4.3 "Sécurité de l'IA générative et utilisations abusives" des Conditions d'utilisation de Google Cloud Platform, Google peut enregistrer les prompts pour détecter les utilisations abusives potentielles et les cas de non-respect de son Règlement sur l'utilisation acceptable et de son Règlement sur les utilisations interdites dans le cadre de la fourniture de services d'IA générative aux clients. Seuls les clients dont l'utilisation de Google Cloud est régie par les Conditions d'utilisation de Google Cloud Platform sont soumis à l'enregistrement des prompts pour la surveillance des utilisations abusives. Si vous êtes concerné par l'enregistrement des prompts pour la surveillance des utilisations abusives et que vous ne souhaitez pas que vos données soient conservées, vous pouvez demander une exception pour la surveillance des utilisations abusives. Consultez Surveillance des utilisations abusives.
Enregistrement des prompts et des réponses pour la surveillance des utilisations abusives pour les modèles d'IA avancés : certains modèles ou fonctionnalités peuvent également être soumis à un enregistrement supplémentaire des prompts et des réponses afin d'éviter les utilisations abusives, comme décrit dans l'Avenant sur la sécurité de l'IA avancée. La conservation zéro donnée peut ne pas être possible lors de l'utilisation de certaines fonctionnalités d'IA avancées. L'équipe chargée de votre compte peut vous apporter des précisions à ce sujet. Pour en savoir plus, consultez Surveillance des utilisations abusives.
Ancrage avec la Recherche Google : comme indiqué dans la section 20 "Services d'IA générative : ancrage avec la recherche Google" des Conditions spécifiques des Services, Google collecte et stocke des journaux contenant les données client suivantes : les requêtes dérivées des prompts des utilisateurs finaux et les informations contextuelles que le client peut fournir avec les prompts qui ne sont associés à aucun Client ni à ses Utilisateurs finaux pendant une période maximale de trois (3) jours. Ces informations stockées peuvent être utilisées pour déboguer les systèmes qui prennent en charge l'ancrage avec la Recherche Google. Il n'est pas possible de désactiver le stockage de ces informations si vous utilisez l'ancrage avec la Recherche Google. Si vous avez besoin de la conservation zéro donnée, nous vous recommandons d'utiliser l'ancrage Web pour les enterprises.
Ancrage avec Google Maps : comme indiqué dans la section 20 "Services d'IA générative : ancrage avec Google Maps" des Conditions spécifiques des Services, Google stocke les prompts et les informations contextuelles que les clients peuvent fournir, ainsi que les résultats générés pendant trente (30) jours afin de créer des résultats ancrés. Ces informations stockées ne peuvent être utilisées que pour l'ingénierie de la fiabilité (par exemple, le débogage en cas de problèmes de service) des systèmes qui prennent en charge l'ancrage avec Google Maps. Il n'est pas possible de désactiver le stockage de ces informations si vous utilisez l'ancrage avec Google Maps.
Enregistrement des prompts et des réponses : cette fonctionnalité est désactivée par défaut. Elle peut être activée à l'aide d'un paramètre de configuration par modèle et par projet. L'activation de cet enregistrement entraîne l'écriture de certaines requêtes et réponses du modèle spécifié dans une table BigQuery désignée. Pour atteindre la conservation zéro donnée, n'activez pas cette fonctionnalité. Pour en savoir plus sur cette fonctionnalité, y compris sur la façon de l'activer ou de la désactiver, ou pour lire le paramètre de configuration actuel, consultez Enregistrer les prompts et les réponses.
API Interactions : lorsque vous utilisez l'API Interactions avec store = true, Google stocke les données utilisateur (comme les prompts, les réponses et l'état de la conversation) pour permettre les conversations multitours et leur récupération ultérieure. Si vous ne spécifiez pas de valeur pour store, la valeur par défaut est true pour tous les modèles. Pour atteindre une conservation zéro donnée, définissez explicitement store = false dans vos requêtes API.

Cela s'applique à tous les modèles gérés sur Gemini Enterprise Agent Platform, y compris les modèles en disponibilité générale et en pré-disponibilité générale.

Produits de l'agent

Afin d'atteindre l'objectif de conservation zéro donnée, les clients doivent respecter les conditions et les calendriers de conservation suivants pour chaque produit :

Données de session CodeMender : pour permettre la reprise des analyses de recherche et de correction de longue durée, CodeMender stocke l'état de la session dans Spanner. Pendant l'analyse, les données de session (y compris les extraits de code source cible, les différences, la configuration et les points de contrôle d'analyse) sont stockées de manière chiffrée pendant sept (7) jours maximum à compter de la création de la session. Lorsqu'une session atteint un état final, le code source et le contenu associé sont effacés en quelques secondes. L'enregistrement de session restant est automatiquement supprimé au bout de sept jours (valeur TTL). Les clients peuvent supprimer une session (en supprimant toutes les données associées) avant l'expiration de la valeur TTL.

Modèles Google

Afin d'obtenir une conservation zéro donnée pour les modèles entraînés par Google, les clients doivent prendre des mesures spécifiques supplémentaires dans chacun de ces domaines :

Reprise de session pour l'API Gemini Live

La reprise de session pour l'API Gemini Live est désactivée par défaut. L'utilisateur doit l'activer chaque fois qu'il appelle l'API en spécifiant le champ dans la requête d'API. La confidentialité au niveau du projet est appliquée aux données mises en cache. L'activation de la reprise de session permet à l'utilisateur de se reconnecter à une session précédente dans un délai de 24 heures en stockant les données mises en cache, y compris les données de prompt textuel, vidéo et audio, ainsi que les sorties du modèle, pendant un maximum de 24 heures. Pour atteindre la conservation zéro donnée, n'activez pas cette fonctionnalité. Pour en savoir plus sur cette fonctionnalité, y compris sur la façon de l'activer, consultez API Gemini Live.

Mise en cache des données en mémoire

Par défaut, les modèles Gemini publiés par Google mettent en cache les données client (entrées, sorties et données dérivées) dans la mémoire pour réduire la latence et accélérer les réponses. Ces données sont stockées uniquement en mémoire (pas au repos), sont isolées au niveau du projet et ont une durée de vie de 24 heures. Les données mises en cache ne sont utilisées que pour améliorer les performances du service. Elles respectent toutes les exigences de résidence des données pour l'emplacement sélectionné et ne violent pas la règle de conservation zéro donnée. Cette fonctionnalité peut être désactivée au niveau du projet.

Activer et désactiver la mise en cache des données

Vous pouvez utiliser les commandes curl suivantes pour obtenir l'état de la mise en cache, désactiver la mise en cache ou la réactiver. Lorsque vous désactivez ou réactivez la mise en cache, la modification s'applique à toutes les régions Google Cloud . Pour en savoir plus sur l'utilisation d'Identity and Access Management afin d'accorder les autorisations requises pour activer ou désactiver la mise en cache, consultez la page Contrôle des accès Gemini Enterprise Agent Platform avec IAM. Développez les sections suivantes pour savoir comment obtenir le paramètre de cache actuel, désactiver la mise en cache et activer la mise en cache.

Obtenir le paramètre de mise en cache actuel

Exécutez la commande suivante pour déterminer si la mise en cache est activée ou désactivée pour un projet. Pour exécuter cette commande, un utilisateur doit disposer de l'un des rôles suivants : roles/aiplatform.viewer, roles/aiplatform.user ou roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
# Setup project_id
$ gcloud config set project PROJECT_ID

# GetCacheConfig
$ curl -X GET \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig

# Response if caching is enabled (caching is enabled by default).
{
  "name": "projects/PROJECT_ID/cacheConfig"
}

# Response if caching is turned off.
{
  "name": "projects/PROJECT_ID/cacheConfig"
  "disableCache": true
}

Désactiver la mise en cache

Exécutez la commande curl suivante pour désactiver la mise en cache pour un projet Google Cloud . Pour exécuter cette commande, un utilisateur doit disposer du rôle d'administrateur Gemini Enterprise Agent Platform, roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
# Setup project_id
$ gcloud config set project PROJECT_ID

# Setup project_id.
$ gcloud config set project ${PROJECT_ID}

# Opt-out of caching.
$ curl -X PATCH \
    -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" \
    -H "Content-Type: application/json" \
    https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig \
    -d '{
      "name": "projects/PROJECT_ID/cacheConfig",
      "disableCache": true
    }'

# Response.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_ID}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

Activer la mise en cache

Si vous avez désactivé la mise en cache pour un projet Google Cloud et que vous souhaitez la réactiver, exécutez la commande curl suivante. Pour exécuter cette commande, un utilisateur doit disposer du rôle d'administrateur Gemini Enterprise Agent Platform, roles/aiplatform.admin.

PROJECT_ID=PROJECT_ID
LOCATION_ID="us-central1"
# Setup project_id
$ gcloud config set project PROJECT_ID

# Setup project_id.
$ gcloud config set project ${PROJECT_ID}

# Opt in to caching.
$ curl -X PATCH     -H "Authorization: Bearer $(gcloud auth application-default print-access-token)" -H "Content-Type: application/json" https://us-central1-aiplatform.googleapis.com/v1/projects/PROJECT_ID/cacheConfig -d '{
  "name": "projects/PROJECT_ID/cacheConfig",
  "disableCache": false
}'

# Response.
{
  "name": "projects/PROJECT_ID/locations/us-central1/projects/PROJECT_ID/cacheConfig/operations/${OPERATION_NUMBER}",
  "done": true,
  "response": {
    "@type": "type.googleapis.com/google.protobuf.Empty"
  }
}

Étape suivante

Présentation

IA responsable

Découvrez certaines des limites de l'IA générative et les pratiques recommandées pour l'utiliser.