À propos de la suppression d'objets

Supprimer les objets dont vous n'avez plus besoin vous permet de réduire les coûts de stockage, de respecter les exigences de conservation des données et d'organiser vos buckets. Selon vos besoins en termes d'échelle et d'automatisation, vous pouvez choisir parmi plusieurs méthodes pour supprimer des objets manuellement, par programmation ou via des règles automatisées.

Cette page décrit les méthodes disponibles pour supprimer des objets de vos buckets et vous aide à choisir celle qui convient le mieux à votre tâche.

Pour savoir comment supprimer des objets, consultez la page Supprimer des objets.

Suppression d'un seul objet

La suppression d'un seul objet permet de contrôler précisément des données spécifiques. En règle générale, vous supprimez des objets uniques lorsque vous devez effectuer des mises à jour immédiates et ciblées des données de votre bucket. Voici quelques-unes des raisons courantes de supprimer des objets uniques :

  • Correction d'erreurs : suppression d'un fichier importé accidentellement ou d'un fichier contenant des données incorrectes.

  • Nettoyage : suppression manuelle des fichiers temporaires ou des journaux après avoir terminé une tâche.

  • Logique d'application : suppression automatique d'un fichier lorsque vous effectuez une action dans une application, par exemple lorsque vous supprimez une photo de profil.

  • Sécurité et conformité : suppression d'objets dans le cadre de la suppression d'informations sensibles.

Outils permettant de supprimer un seul objet

Pour supprimer un seul objet de votre bucket, utilisez l'un des outils suivants. Chaque outil envoie une requête DELETE individuelle par objet.

Outil Description
Google Cloud Console Supprime un objet via la Google Cloud console.
Google Cloud CLI Supprime un objet à l'aide de la gcloud storage rm commande.
Bibliothèques clientes Supprime un objet par programmation à l'aide d'un langage compatible tel que C++, C#, Go, Java, Node.js, PHP, Python ou Ruby.
API REST Supprime un objet à l'aide des API REST JSON et XML.

Suppression groupée d'objets

Les méthodes de suppression groupée sont conçues pour des opérations très efficaces sur de grands ensembles de données. Utilisez la suppression groupée pour gérer les coûts de stockage et automatiser l'hygiène des données dans les buckets. Voici quelques-unes des raisons courantes de supprimer plusieurs objets :

  • Optimisation des coûts : suppression de grands ensembles de données, tels que d'anciens journaux ou des artefacts de compilation temporaires, qui ne sont plus nécessaires aux opérations.

  • Automatisation de la conformité : application automatique des règles de conservation des données en supprimant les objets après une période spécifique, par exemple 30 jours.

  • Migration ou mise hors service de buckets : suppression de millions ou de milliards d'objets lors de la migration de données ou de la fermeture d'un projet.

  • Nettoyage du pipeline de données : suppression des fichiers de traitement intermédiaires après la génération d’un rapport ou d’un ensemble de données final.

Outils permettant de supprimer des objets de manière groupée

Pour supprimer des objets de manière groupée, utilisez l'un des outils suivants. Ces méthodes sont optimisées pour un débit plus élevé et une surcharge réduite par rapport aux requêtes individuelles.

Outil Description
Supprimer plusieurs objets à l'aide de l'API XML

Méthode programmatique permettant de supprimer jusqu'à 1 000 objets dans une seule requête POST. L'API XML de suppression de plusieurs objets est conçue pour être interopérable avec l'API Amazon S3. Par conséquent, vous pouvez utiliser vos outils, bibliothèques et workflows Amazon S3 existants pour gérer les objets dans Cloud Storage. L'API XML est utile si vous migrez des données ou gérez des ressources sur les deux plates-formes.

Lorsque vous utilisez l'API XML pour supprimer plusieurs objets, Cloud Storage génère des journaux d'audit pour l'accès aux données. Ces journaux incluent des informations sur la requête globale et les suppressions d'objets individuels, à condition que vous activiez les journaux d'audit pour l'accès aux données. Pour en savoir plus, consultez la page Journaux d'audit pour l'API XML de suppression de plusieurs objets.

L'API XML de suppression de plusieurs objets présente les limites suivantes :

  • Contournement du mode de gouvernance : contrairement à Amazon S3, qui permet de supprimer des objets verrouillés par un type de gouvernance en spécifiant l'en-tête x-amz-bypass-governance-retention, Cloud Storage ne permet pas de contourner le mode de gouvernance lors des suppressions. Cloud Storage applique des règles de conservation des objets pour garantir l'immuabilité des données.
  • Marqueurs de suppression : les marqueurs de suppression Amazon S3 ne sont pas compatibles avec Cloud Storage, que ce soit pour les suppressions d'un seul objet ou de plusieurs objets. La restauration d'un objet non actuel dans Cloud Storage nécessite l'utilisation de PUT requêtes pour copier la version requise dans l'objet actif.
  • Suppressions conditionnelles : l'API de suppression de plusieurs objets Cloud Storage n'est pas compatible avec les suppressions conditionnelles basées sur ETag, Last-Modified ou Size. Les requêtes incluant ces paramètres génèrent une erreur 400. Pour les opérations conditionnelles dans Cloud Storage, utilisez des en-têtes tels que x-goog-if-generation-match ou x-goog-if-metageneration-match.
Google Cloud Console La Google Cloud console est une option recommandée pour supprimer jusqu'à un million d'objets. Une fois que vous avez lancé une requête de suppression, le processus s'exécute en arrière-plan. Vous pouvez vérifier l'état de votre suppression groupée en cliquant sur le bouton Notifications () dans l'en-tête de la Google Cloud console.
Opérations de stockage par lot

Service entièrement géré qui effectue des suppressions en fonction d'un fichier manifeste. Convient pour supprimer jusqu'à des milliards d'objets avec un suivi et des nouvelles tentatives intégrés.

Nous vous recommandons d'utiliser les opérations de stockage par lot si vous souhaitez effectuer les opérations suivantes :

  • Supprimer des millions ou des milliards d'objets.
  • Améliorer la fiabilité grâce au suivi, aux nouvelles tentatives et gestion des exceptions intégrés.
  • Réduire la surcharge côté client par rapport à la création de scripts pour des appels d'API individuels.
gcloud storage rm --recursive Commande Google Cloud CLI permettant de supprimer tous les objets partageant un préfixe commun. Convient pour les tâches groupées à petite et moyenne échelle à l'aide de la CLI.
Gestion du cycle de vie des objets Fonctionnalité côté serveur qui supprime automatiquement les objets en fonction des règles que vous définissez, telles que l'âge de l'objet ou la classe de stockage. Pour supprimer des objets de votre bucket de manière groupée, définissez une règle de configuration du cycle de vie sur votre bucket en définissant Age sur 0 jour et l'action sur delete. Une fois la règle créée, Cloud Storage procède à la suppression groupée de manière asynchrone.
Requêtes par lot Lorsque vous utilisez certaines bibliothèques clientes ou utilisez directement l'API JSON, vous pouvez traiter vos requêtes de suppression par lot pour réduire le nombre de connexions HTTP dont vous avez besoin.

Choisir une méthode de suppression

L'outil de suppression des objets dépend du nombre d'objets que vous devez supprimer et de la raison de cette suppression. Suivez les conseils ci-dessous pour choisir une méthode adaptée à votre cas d'utilisation :

  • Si vous devez supprimer un ou seulement quelques objets spécifiques, utilisez la Google Cloud console, gcloud storage rm, ou des appels d'API uniques à l'aide de bibliothèques clientes ou d'API REST. Pour en savoir plus, consultez la page Supprimer un seul objet.
  • Si vous devez supprimer jusqu'à 1 000 objets dans une seule requête API, utilisez l'API XML de suppression de plusieurs objets, la CLI Amazon S3 ou une bibliothèque cliente compatible avec S3, telle que Boto3. Pour en savoir plus, consultez la page Supprimer des objets de manière groupée.
  • Si vous supprimez de nombreux objets qui partagent un préfixe de nom commun, utilisez la commande gcloud storage rm --recursive. Pour en savoir plus, consultez la page Supprimer des objets de manière groupée à l'aide de Google Cloud CLI.
  • Si vous devez supprimer des millions ou des milliards d'objets, utilisez les opérations de stockage par lot pour des suppressions fiables à grande échelle.
  • Si vous devez supprimer automatiquement des objets lorsqu'ils répondent à certains critères, utilisez la gestion du cycle de vie des objets.

Étape suivante