Collecter les journaux CloudM
Version de l'analyseur : 6.0
Ce document explique comment ingérer des journaux CloudM dans Google Security Operations à l'aide de Google Cloud Storage V2.
CloudM est une plate-forme SaaS pour Google Workspace et Microsoft 365 qui permet d'automatiser les workflows d'intégration et de désintégration des utilisateurs, ainsi que la sauvegarde, l'archivage et la migration des données. CloudM Automate génère un journal d'audit complet de toutes les actions effectuées dans votre domaine, y compris les événements de gestion des utilisateurs, les étapes du workflow de désactivation, les modifications de configuration et les opérations liées à la sécurité. Les données du journal d'audit de l'année dernière sont conservées.
Avant de commencer
Assurez-vous de remplir les conditions suivantes :
- Une instance Google SecOps
- Un projet Google Cloud avec l'API Cloud Storage activée
- Autorisations permettant de créer et de gérer des buckets Cloud Storage
- Autorisations permettant de gérer les stratégies Identity and Access Management (IAM) sur les buckets Cloud Storage
- Autorisations permettant de créer des services Cloud Run, des sujets Pub/Sub et des tâches Cloud Scheduler
- Accès administrateur à votre instance CloudM Automate avec l'autorisation Modifier les paramètres globaux
- URL de votre instance CloudM Automate (par exemple,
yourcompany.cloudm.io) - Votre ID de domaine CloudM
Collecter les identifiants CloudM Automate
Créer un rôle personnalisé pour accéder aux journaux d'API
- Connectez-vous à votre instance CloudM Automate.
- Accédez à Paramètres> Rôles.
- Cliquez sur Ajouter un rôle pour en créer un.
- Dans le champ Nom du rôle, saisissez un nom descriptif (par exemple,
Google SecOps Log Reader). Dans la liste des autorisations, activez l'autorisation suivante :
- Afficher les journaux : permet d'afficher tous les journaux d'application.
Enregistrez le rôle.
Créer un compte de service et attribuer le rôle
- Dans CloudM Automate, accédez à Paramètres > Rôles.
- Créez ou identifiez un compte de service à utiliser pour l'accès à l'API.
- Attribuez le rôle Lecteur de journaux Google SecOps au compte de service.
- Assurez-vous que le rôle est attribué avec un champ d'application global afin que le compte de service puisse accéder aux journaux de l'ensemble du domaine.
Obtenir le jeton d'accès au compte de service
- Générez un jeton d'accès pour le compte de service.
- Le jeton d'accès est utilisé comme jeton Bearer dans l'en-tête
Authorizationlors de l'envoi de requêtes API à l'API CloudM Logs. Notez les valeurs suivantes :
- URL de l'instance Automate : URL de votre instance CloudM Automate (par exemple,
yourcompany.cloudm.io) - ID du domaine : identifiant de votre domaine CloudM
- Jeton d'accès au compte de service : jeton Bearer pour l'authentification de l'API
- URL de l'instance Automate : URL de votre instance CloudM Automate (par exemple,
Vérifier les autorisations
Pour vérifier que le compte dispose des autorisations requises :
- Connectez-vous à CloudM Automate.
- Accédez à Paramètres> Rôles.
- Vérifiez que l'autorisation Afficher les journaux est attribuée au compte de service avec un champ d'application global.
- Si cette option ne s'affiche pas, contactez votre administrateur pour qu'il vous accorde les autorisations Modifier les paramètres globaux et Afficher les journaux.
Tester l'accès à l'API
Testez vos identifiants avant de procéder à l'intégration :
# Replace with your actual credentials CLOUDM_INSTANCE="yourcompany.cloudm.io" DOMAIN_ID="your-domain-id" ACCESS_TOKEN="your-access-token" # Test API access curl -v -H "Authorization: Bearer ${ACCESS_TOKEN}" \ "https://${CLOUDM_INSTANCE}/_ah/api/events/v1/${DOMAIN_ID}?from=$(date -u +%Y-%m-%d)&to=$(date -u +%Y-%m-%d)"Une réponse réussie renvoie un tableau JSON d'événements du journal d'audit.
Autorisations d'API requises
Le compte de service nécessite l'autorisation suivante :
Autorisation Niveau d'accès Objectif Afficher les journaux Monde Récupérer tous les événements du journal d'audit de CloudM Automate
Créer un bucket Google Cloud Storage
- Accédez à la console Google Cloud.
- Sélectionnez votre projet ou créez-en un.
- Dans le menu de navigation, accédez à Cloud Storage > Buckets.
- Cliquez sur Créer un bucket.
Fournissez les informations de configuration suivantes :
Paramètre Valeur Nommer votre bucket Saisissez un nom unique (par exemple, cloudm-audit-logs).Type d'emplacement Choisissez en fonction de vos besoins (région, birégion ou multirégion). Emplacement Sélectionnez le lieu (par exemple, us-central1).Classe de stockage Standard (recommandé pour les journaux auxquels vous accédez fréquemment) Access control (Contrôle des accès) Uniforme (recommandé) Outils de protection Facultatif : Activez la gestion des versions des objets ou une règle de conservation. Cliquez sur Créer.
Créer un compte de service pour la fonction Cloud Run
La fonction Cloud Run a besoin d'un compte de service disposant des autorisations nécessaires pour écrire dans le bucket Cloud Storage et être appelée par Pub/Sub.
Créer un compte de service
- Dans la consoleGoogle Cloud , accédez à IAM et administration > Comptes de service.
- Cliquez sur Créer un compte de service.
- Fournissez les informations de configuration suivantes :
- Nom du compte de service : saisissez
cloudm-audit-collector-sa. - Description du compte de service : saisissez
Service account for Cloud Run function to collect CloudM audit logs.
- Nom du compte de service : saisissez
- Cliquez sur Créer et continuer.
Dans la section Autoriser ce compte de service à accéder au projet, ajoutez les rôles suivants :
- Cliquez sur Sélectionner un rôle.
- Recherchez et sélectionnez Administrateur des objets de l'espace de stockage.
- Cliquez sur + Ajouter un autre rôle.
- Recherchez et sélectionnez Demandeur Cloud Run.
- Cliquez sur + Ajouter un autre rôle.
- Recherchez et sélectionnez Demandeur Cloud Functions.
Cliquez sur Continuer.
Cliquez sur OK.
Ces rôles sont requis pour :
- Administrateur des objets Storage : écrire des journaux dans le bucket Cloud Storage et gérer les fichiers d'état
- Demandeur Cloud Run : autorise Pub/Sub à appeler la fonction
- Demandeur Cloud Functions : autorise l'appel de fonctions
Accorder des autorisations IAM sur le bucket Cloud Storage
Accordez au compte de service des autorisations en écriture sur le bucket Cloud Storage :
- Accédez à Cloud Storage > Buckets.
- Cliquez sur le nom de votre bucket (
cloudm-audit-logs). - Accédez à l'onglet Autorisations.
- Cliquez sur Accorder l'accès.
Fournissez les informations de configuration suivantes :
- Ajouter des comptes principaux : saisissez l'adresse e-mail du compte de service (
cloudm-audit-collector-sa@PROJECT_ID.iam.gserviceaccount.com). - Attribuer des rôles : sélectionnez Administrateur des objets Storage.
- Ajouter des comptes principaux : saisissez l'adresse e-mail du compte de service (
Cliquez sur Enregistrer.
Créer un sujet Pub/Sub
Créez un sujet Pub/Sub auquel Cloud Scheduler publiera des messages et auquel la fonction Cloud Run s'abonnera.
- Dans la Google Cloud console, accédez à Pub/Sub > Sujets.
- Cliquez sur Create topic (Créer un sujet).
Fournissez les informations de configuration suivantes :
- ID du sujet : saisissez
cloudm-audit-trigger. - Conservez les valeurs par défaut des autres paramètres.
- ID du sujet : saisissez
Cliquez sur Créer.
Créer une fonction Cloud Run pour collecter les journaux
La fonction Cloud Run sera déclenchée par les messages Pub/Sub de Cloud Scheduler pour extraire les journaux de l'API CloudM Automate Logs et les écrire dans Cloud Storage.
- Dans la consoleGoogle Cloud , accédez à Cloud Run.
- Cliquez sur Créer un service.
- Sélectionnez Fonction (utilisez un éditeur intégré pour créer une fonction).
Dans la section Configurer, fournissez les informations de configuration suivantes :
Paramètre Valeur Nom du service cloudm-audit-collectorRégion Sélectionnez la région correspondant à votre bucket Cloud Storage (par exemple, us-central1).Durée d'exécution Sélectionnez Python 3.12 ou version ultérieure. Dans la section Déclencheur (facultatif) :
- Cliquez sur + Ajouter un déclencheur.
- Sélectionnez Cloud Pub/Sub.
- Dans Sélectionner un sujet Cloud Pub/Sub, sélectionnez
cloudm-audit-trigger. - Cliquez sur Enregistrer.
Dans la section Authentification :
- Sélectionnez Exiger l'authentification.
- Consultez Identity and Access Management (IAM).
Faites défiler la page vers le bas, puis développez Conteneurs, mise en réseau, sécurité.
Accédez à l'onglet Sécurité :
- Compte de service : sélectionnez
cloudm-audit-collector-sa.
- Compte de service : sélectionnez
Accédez à l'onglet Conteneurs :
- Cliquez sur Variables et secrets.
Cliquez sur + Ajouter une variable pour chaque variable d'environnement :
Nom de la variable Exemple de valeur Description GCS_BUCKETcloudm-audit-logsNom du bucket Cloud Storage GCS_PREFIXcloudm-auditPréfixe des fichiers journaux STATE_KEYcloudm-audit/state.jsonChemin d'accès au fichier d'état CLOUDM_INSTANCE_URLyourcompany.cloudm.ioURL de l'instance CloudM Automate CLOUDM_DOMAIN_IDyour-domain-idIdentifiant de domaine CloudM CLOUDM_ACCESS_TOKENyour-access-tokenJeton de support du compte de service CloudM LOOKBACK_HOURS24Période d'analyse initiale
Dans la section Variables et secrets, faites défiler la page jusqu'à Requêtes :
- Délai avant expiration de la requête : saisissez
600secondes (10 minutes).
- Délai avant expiration de la requête : saisissez
Accédez à l'onglet Paramètres :
Dans la section Ressources :
- Mémoire : sélectionnez 512 Mio ou plus.
- CPU : sélectionnez 1.
Dans la section Scaling de révision :
- Nombre minimal d'instances : saisissez
0. - Nombre maximal d'instances : saisissez
100.
- Nombre minimal d'instances : saisissez
Cliquez sur Créer.
Attendez que le service soit créé (1 à 2 minutes).
Une fois le service créé, l'éditeur de code intégré s'ouvre automatiquement.
Ajouter un code de fonction
- Saisissez main dans le champ Point d'entrée.
Dans l'éditeur de code intégré, créez deux fichiers :
main.py:
import functions_framework from google.cloud import storage import json import os import urllib3 from datetime import datetime, timezone, timedelta http = urllib3.PoolManager( timeout=urllib3.Timeout(connect=10.0, read=60.0), retries=False, ) storage_client = storage.Client() GCS_BUCKET = os.environ.get('GCS_BUCKET') GCS_PREFIX = os.environ.get('GCS_PREFIX', 'cloudm-audit') STATE_KEY = os.environ.get('STATE_KEY', 'cloudm-audit/state.json') CLOUDM_INSTANCE_URL = os.environ.get('CLOUDM_INSTANCE_URL', '').rstrip('/') CLOUDM_DOMAIN_ID = os.environ.get('CLOUDM_DOMAIN_ID') CLOUDM_ACCESS_TOKEN = os.environ.get('CLOUDM_ACCESS_TOKEN') LOOKBACK_HOURS = int(os.environ.get('LOOKBACK_HOURS', '24')) @functions_framework.cloud_event def main(cloud_event): if not all([GCS_BUCKET, CLOUDM_INSTANCE_URL, CLOUDM_DOMAIN_ID, CLOUDM_ACCESS_TOKEN]): print('Error: Missing required environment variables') return try: bucket = storage_client.bucket(GCS_BUCKET) state = load_state(bucket) now = datetime.now(timezone.utc) if isinstance(state, dict) and state.get('last_event_date'): try: last_date = state['last_event_date'] last_time = datetime.strptime(last_date, '%Y-%m-%d').replace(tzinfo=timezone.utc) except Exception as e: print(f"Warning: Could not parse last_event_date: {e}") last_time = now - timedelta(hours=LOOKBACK_HOURS) else: last_time = now - timedelta(hours=LOOKBACK_HOURS) from_date = last_time.strftime('%Y-%m-%d') to_date = now.strftime('%Y-%m-%d') print(f"Fetching logs from {from_date} to {to_date}") records = fetch_logs(from_date, to_date) if not records: print("No new log records found.") save_state(bucket, to_date) return timestamp = now.strftime('%Y%m%d_%H%M%S') object_key = f"{GCS_PREFIX}/cloudm_audit_{timestamp}.ndjson" blob = bucket.blob(object_key) ndjson = '\n'.join( [json.dumps(record, ensure_ascii=False, default=str) for record in records] ) + '\n' blob.upload_from_string(ndjson, content_type='application/x-ndjson') print(f"Wrote {len(records)} records to gs://{GCS_BUCKET}/{object_key}") save_state(bucket, to_date) print(f"Successfully processed {len(records)} records") except Exception as e: print(f'Error processing logs: {str(e)}') raise def fetch_logs(from_date, to_date): instance = CLOUDM_INSTANCE_URL if not instance.startswith('https://'): instance = f"https://{instance}" endpoint = f"{instance}/_ah/api/events/v1/{CLOUDM_DOMAIN_ID}" headers = { 'Authorization': f'Bearer {CLOUDM_ACCESS_TOKEN}', 'Accept': 'application/json', 'User-Agent': 'GoogleSecOps-CloudMCollector/1.0' } url = f"{endpoint}?from={from_date}&to={to_date}" try: response = http.request('GET', url, headers=headers) if response.status == 429: retry_after = int(response.headers.get('Retry-After', '60')) print(f"Rate limited (429). Retry after {retry_after}s.") return [] if response.status != 200: print(f"HTTP Error: {response.status}") response_text = response.data.decode('utf-8') print(f"Response body: {response_text}") return [] data = json.loads(response.data.decode('utf-8')) if isinstance(data, list): records = data elif isinstance(data, dict): records = data.get('items', data.get('events', [data])) else: records = [] print(f"Retrieved {len(records)} events") return records except Exception as e: print(f"Error fetching logs: {e}") return [] def load_state(bucket): try: blob = bucket.blob(STATE_KEY) if blob.exists(): return json.loads(blob.download_as_text()) except Exception as e: print(f"Warning: Could not load state: {e}") return {} def save_state(bucket, last_event_date): try: state = { 'last_event_date': last_event_date, 'last_run': datetime.now(timezone.utc).isoformat() } blob = bucket.blob(STATE_KEY) blob.upload_from_string( json.dumps(state, indent=2), content_type='application/json' ) print(f"Saved state: last_event_date={last_event_date}") except Exception as e: print(f"Warning: Could not save state: {e}")requirements.txt:
functions-framework==3.* google-cloud-storage==2.* urllib3>=2.0.0
Cliquez sur Déployer pour enregistrer et déployer la fonction.
Attendez la fin du déploiement (deux à trois minutes).
Créer une tâche Cloud Scheduler
Cloud Scheduler publie des messages sur le sujet Pub/Sub à intervalles réguliers, ce qui déclenche la fonction Cloud Run.
- Dans la consoleGoogle Cloud , accédez à Cloud Scheduler.
- Cliquez sur Créer une tâche.
Fournissez les informations de configuration suivantes :
Paramètre Valeur Nom cloudm-audit-collector-hourlyRégion Sélectionnez la même région que la fonction Cloud Run. Fréquence 0 * * * *(toutes les heures)Fuseau horaire Sélectionnez un fuseau horaire (UTC recommandé). Type de cible Pub/Sub Thème Sélectionner cloudm-audit-triggerCorps du message {}(objet JSON vide)Cliquez sur Créer.
Tester l'intégration
- Dans la console Cloud Scheduler, recherchez votre job (
cloudm-audit-collector-hourly). - Cliquez sur Exécuter de force pour déclencher le job manuellement.
- Patientez quelques secondes.
- Accédez à Cloud Run > Services.
- Cliquez sur
cloudm-audit-collector. - Cliquez sur l'onglet Journaux.
Vérifiez que la fonction s'est exécutée correctement. Par exemple :
Fetching logs from YYYY-MM-DD to YYYY-MM-DD Retrieved X events Wrote X records to gs://cloudm-audit-logs/cloudm-audit/cloudm_audit_YYYYMMDD_HHMMSS.ndjson Successfully processed X recordsAccédez à Cloud Storage > Buckets.
Cliquez sur
cloudm-audit-logs.Accédez au dossier
cloudm-audit/.Vérifiez qu'un fichier
.ndjsona été créé avec le code temporel actuel.
Si vous constatez des erreurs dans les journaux :
- HTTP 401 : vérifiez que la variable d'environnement
CLOUDM_ACCESS_TOKENest correcte. - HTTP 403 : vérifiez que le compte de service dispose de l'autorisation Afficher les journaux avec un champ d'application global.
- HTTP 429 : limitation du débit. La fonction s'arrête et reprend lors de la prochaine exécution planifiée.
- Variables d'environnement manquantes : vérifiez que toutes les variables requises sont définies dans la configuration de la fonction Cloud Run.
Récupérer le compte de service Google SecOps
Google SecOps utilise un compte de service unique pour lire les données de votre bucket Cloud Storage. Vous devez accorder à ce compte de service l'accès à votre bucket.
Obtenir l'adresse e-mail du compte de service
- Accédez à Paramètres SIEM> Flux.
- Cliquez sur Add New Feed (Ajouter un flux).
- Cliquez sur Configurer un flux unique.
- Dans le champ Nom du flux, saisissez un nom pour le flux (par exemple,
CloudM Audit Logs). - Sélectionnez Google Cloud Storage V2 comme Type de source.
- Sélectionnez CloudM comme type de journal.
Cliquez sur Obtenir un compte de service.
Une adresse e-mail unique pour le compte de service s'affiche, par exemple :
chronicle-12345678@chronicle-gcp-prod.iam.gserviceaccount.comCopiez cette adresse e-mail pour l'utiliser à l'étape suivante.
Cliquez sur Suivant.
Spécifiez les valeurs des paramètres d'entrée suivants :
URL du bucket de stockage : saisissez l'URI du bucket Cloud Storage avec le préfixe du chemin d'accès :
gs://cloudm-audit-logs/cloudm-audit/Option de suppression de la source : sélectionnez l'option de suppression de votre choix :
- Jamais : ne supprime jamais aucun fichier après les transferts (recommandé pour les tests).
- Supprimer les fichiers transférés : supprime les fichiers une fois le transfert réussi.
Supprimer les fichiers transférés et les répertoires vides : supprime les fichiers et les répertoires vides après un transfert réussi.
Âge maximal des fichiers : incluez les fichiers modifiés au cours des derniers jours (180 jours par défaut).
Espace de noms de l'élément : espace de noms de l'élément.
Libellés d'ingestion : libellé à appliquer aux événements de ce flux.
Cliquez sur Suivant.
Vérifiez la configuration de votre nouveau flux sur l'écran Finaliser, puis cliquez sur Envoyer.
Accorder des autorisations IAM au compte de service Google SecOps
Le compte de service Google SecOps doit disposer du rôle Lecteur des objets Storage sur votre bucket Cloud Storage.
- Accédez à Cloud Storage > Buckets.
- Cliquez sur
cloudm-audit-logs. - Accédez à l'onglet Autorisations.
- Cliquez sur Accorder l'accès.
Fournissez les informations de configuration suivantes :
- Ajouter des comptes principaux : collez l'adresse e-mail du compte de service Google SecOps.
- Attribuer des rôles : sélectionnez Lecteur des objets de l'espace de stockage.
Cliquez sur Enregistrer.
Paramètres de l'API CloudM Logs
L'API CloudM Logs accepte les paramètres de requête suivants pour filtrer les événements de journaux :
| Paramètre | Format | Description |
|---|---|---|
| byUser | Adresse e-mail | Filtrer les événements par l'utilisateur qui a effectué l'action (équivalent à Utilisateur dans l'interface utilisateur CloudM) |
| de | yyyy-MM-dd |
Date de début du filtre de plage de dates |
| à | yyyy-MM-dd |
Date de fin du filtre de plage de dates |
| contextType | Chaîne | Filtrer par type de contexte (par exemple, profil, groupe, UO) |
| contextName | Chaîne | Filtrer par cible d'une action (par exemple, un utilisateur spécifique qui est désactivé) |
| opération | Chaîne | Filtrer par type d'opération (par exemple, attribuer un alias, suspendre un utilisateur) |
| country | Code pays | Filtrer par code pays de géolocalisation |
Table de mappage UDM
| Champ de journal | Mappage UDM | Logique |
|---|---|---|
| à propos de | à propos de | Valeur copiée directement |
| Context_Name | about.labels | Fusionné en tant que paires clé/valeur à partir de about_Context_Name, about_Context_Type, labels0 |
| Context_Type | about.labels | |
| Login_Type | about.labels | |
| Émetteur | additional.fields | Fusionné à partir de additional_field0, additional_field1, additional_field2 |
| SAML_code | additional.fields | |
| SAML_ACS_Url | additional.fields | |
| Opération | extensions.auth.type | Définissez la valeur sur "SSO" si l'opération correspond à SSORequest, ou sur "AUTHTYPE_UNSPECIFIED" si Context_Type est "LoginUser". |
| Context_Type | extensions.auth.type | |
| Horodatage | metadata.event_timestamp | Date/heure et fuseau horaire extraits de l'horodatage, fuseau horaire converti en décalage, concaténé et analysé en tant qu'horodatage |
| Opération | metadata.event_type | Défini sur USER_UNCATEGORIZED si l'opération correspond à Update/Delete/SuspendUser/UnsuspendUser/Create, USER_LOGIN si l'opération correspond à SSORequest/SSORequestFail ou si Context_Type est LoginUser, STATUS_UPDATE si l'adresse IP n'est pas vide, sinon GENERIC_EVENT |
| Context_Type | metadata.event_type | |
| User_Agent | network.http.user_agent | Valeur copiée directement |
| principal | principal | Renommé à partir du principal si Context_Type != LoginUser, sinon à partir de la cible |
| cible | principal | |
| Organization_Unit | principal.administrative_domain | Valeur copiée directement |
| IP | principal.ip | Valeur copiée directement |
| Ville | principal.location.city | Valeur copiée directement |
| Pays | principal.location.country_or_region | Valeur copiée directement |
| Géolocalisation | principal.location.region_latitude | Latitude extraite de la géolocalisation à l'aide de grok |
| Géolocalisation | principal.location.region_longitude | Longitude extraite de la géolocalisation à l'aide de grok |
| Région | principal.location.state | Valeur copiée directement |
| Acteur | principal.user.attribute.roles | Défini sur role.name si l'acteur n'est pas une adresse e-mail et n'est pas vide, puis fusionné |
| Acteur | principal.user.email_addresses | Valeur copiée directement si l'acteur correspond à l'expression régulière de l'adresse e-mail |
| Message | principal.user.userid | Nom d'utilisateur extrait du message à l'aide de grok |
| security_result | security_result | Fusion de l'objet security_result |
| SAML_code | security_result.action | Définissez sur ALLOW si SAML_code correspond à "Success", sur BLOCK si SAML_code correspond à "RequestDenied". |
| Message | security_result.description | Valeur copiée directement |
| Gravité | security_result.severity | Définissez sur "uppercase" si le niveau est "Error" (Erreur) ou "Critical" (Critique), sur "INFORMATIONAL" (INFORMATIONNEL) si le niveau est "Info" (Info), sur "MEDIUM" (MOYEN) si le niveau est "Warning" (Avertissement), ou sur "UNKNOWN_SEVERITY" (GRAVITÉ INCONNUE) dans le cas contraire. |
| Opération | security_result.summary | Valeur copiée directement |
| cible | cible | Renommé à partir de la cible si Context_Type != LoginUser, sinon à partir du principal |
| principal | cible | |
| metadata.product_name | metadata.product_name | Définissez-le sur "CLOUDM". |
| metadata.vendor_name | metadata.vendor_name | Définissez-le sur "CLOUDM". |
Journal des modifications
Afficher le journal des modifications pour ce parseur
Vous avez encore besoin d'aide ? Obtenez des réponses auprès des membres de la communauté et des professionnels Google SecOps.