Collecter les journaux Tenable CSPM

Compatible avec :

Ce document explique comment ingérer les journaux Tenable CSPM dans Google Security Operations à l'aide de Google Cloud Storage V2.

Tenable CSPM (gestion de la stratégie de sécurité cloud) est une plate-forme de sécurité cloud permettant de détecter les erreurs de configuration et de surveiller la conformité dans les environnements cloud. Une fonction Cloud Run interroge l'API Tenable CSPM selon une programmation, écrit les résultats dans un bucket GCS au format NDJSON, et Google SecOps les ingère via un flux GCS V2.

Avant de commencer

Assurez-vous de remplir les conditions préalables suivantes :

  • Une instance Google SecOps
  • Un projet GCP avec l'API Cloud Storage activée
  • Autorisations permettant de créer et de gérer des buckets GCS
  • Autorisations permettant de gérer les stratégies IAM sur les buckets GCS
  • Autorisations permettant de créer des services Cloud Run, des sujets Pub/Sub et des jobs Cloud Scheduler
  • Accès privilégié à la console Tenable Cloud Security avec des autorisations d'administrateur

Créer un bucket Google Cloud Storage

  1. Accédez à la console Google Cloud.
  2. Sélectionnez votre projet ou créez-en un.
  3. Dans le menu de navigation, accédez à Cloud Storage > Buckets.
  4. Cliquez sur Créer un bucket.
  5. Fournissez les informations de configuration suivantes :

    Paramètre Valeur
    Attribuez un nom au bucket Saisissez un nom unique (par exemple, tenable-cspm-logs).
    Type d'emplacement Choisissez en fonction de vos besoins (région, birégion, multirégion).
    Emplacement Sélectionnez l'emplacement (par exemple, us-central1).
    Classe de stockage Standard (recommandé pour les journaux auxquels vous accédez fréquemment)
    Access control (Contrôle des accès) Uniforme (recommandé)
    Outils de protection Facultatif : Activez la gestion des versions des objets ou la règle de conservation.
  6. Cliquez sur Créer.

Collecter les identifiants de l'API Tenable CSPM

Générer des clés API

  1. Connectez-vous à la console Tenable Cloud Security en tant qu'administrateur.
  2. Accédez à Paramètres > Clés API.
  3. Cliquez sur Générer pour créer une paire de clés API.
  4. Copiez et enregistrez les informations suivantes dans un emplacement sécurisé :
    • Clé d'accès : clé d'accès à l'API pour l'authentification.
    • Clé secrète : clé secrète de l'API pour l'authentification.

Vérifier les autorisations

Pour vérifier que le compte dispose des autorisations requises :

  1. Connectez-vous à la console Tenable Cloud Security.
  2. Accédez à Résultats ou Conformité > Rapports.
  3. Si vous pouvez voir les données sur les résultats, cela signifie que vous disposez des autorisations requises.
  4. Si vous ne voyez pas cette option, contactez votre administrateur Tenable pour obtenir un accès administrateur.

Tester l'accès à l'API

  • Testez vos identifiants avant de procéder à l'intégration :

    # Replace with your actual credentials
    ACCESS_KEY="your-access-key"
    SECRET_KEY="your-secret-key"
    
    # Test API access
    curl -v -H "X-ApiKeys: accessKey=${ACCESS_KEY};secretKey=${SECRET_KEY}" \
      "https://cloud.tenable.com/cspm/v1/findings?limit=1"
    

Créer un compte de service pour la fonction Cloud Run

La fonction Cloud Run a besoin d'un compte de service disposant des autorisations nécessaires pour écrire dans le bucket GCS et être appelée par Pub/Sub.

Créer un compte de service

  1. Dans la console GCP, accédez à IAM et administration > Comptes de service.
  2. Cliquez sur Créer un compte de service.
  3. Fournissez les informations de configuration suivantes :
    • Nom du compte de service : saisissez tenable-cspm-collector-sa.
    • Description du compte de service : saisissez Service account for Cloud Run function to collect Tenable CSPM logs.
  4. Cliquez sur Créer et continuer.
  5. Dans la section Autoriser ce compte de service à accéder au projet, ajoutez les rôles suivants :
    1. Cliquez sur Sélectionner un rôle.
    2. Recherchez et sélectionnez Administrateur des objets Storage.
    3. Cliquez sur + Ajouter un autre rôle.
    4. Recherchez et sélectionnez Demandeur Cloud Run.
    5. Cliquez sur + Ajouter un autre rôle.
    6. Recherchez et sélectionnez Demandeur Cloud Functions.
  6. Cliquez sur Continuer.
  7. Cliquez sur OK.

Ces rôles sont requis pour :

  • Administrateur des objets Storage : écrire des journaux dans un bucket GCS et gérer les fichiers d'état
  • Demandeur Cloud Run : autorise Pub/Sub à appeler la fonction
  • Demandeur Cloud Functions : autorise l'appel de fonctions

Accorder des autorisations IAM sur le bucket GCS

Accordez au compte de service des autorisations d'écriture dans le bucket GCS :

  1. Accédez à Cloud Storage > Buckets.
  2. Cliquez sur le nom de votre bucket (par exemple, tenable-cspm-logs).
  3. Accédez à l'onglet Autorisations.
  4. Cliquez sur Accorder l'accès.
  5. Fournissez les informations de configuration suivantes :
    • Ajouter des comptes principaux : saisissez l'adresse e-mail du compte de service (par exemple, tenable-cspm-collector-sa@your-project.iam.gserviceaccount.com).
    • Attribuer des rôles : sélectionnez Administrateur des objets Storage.
  6. Cliquez sur Enregistrer.

Créer un sujet Pub/Sub

Créez un sujet Pub/Sub auquel Cloud Scheduler publiera des messages et auquel la fonction Cloud Run s'abonnera.

  1. Dans la console GCP, accédez à Pub/Sub > Sujets.
  2. Cliquez sur Créer un sujet.
  3. Fournissez les informations de configuration suivantes :
    • ID du sujet : saisissez tenable-cspm-trigger.
    • Conservez les valeurs par défaut des autres paramètres.
  4. Cliquez sur Créer.

Créer une fonction Cloud Run pour collecter les journaux

La fonction Cloud Run sera déclenchée par les messages Pub/Sub de Cloud Scheduler pour extraire les résultats de l'API Tenable CSPM et les écrire dans GCS.

  1. Dans la console GCP, accédez à Cloud Run.
  2. Cliquez sur Créer un service.
  3. Sélectionnez Fonction (utilisez un éditeur intégré pour créer une fonction).
  4. Dans la section Configurer, fournissez les informations de configuration suivantes :

    Paramètre Valeur
    Nom du service tenable-cspm-collector
    Région Sélectionnez la région correspondant à votre bucket GCS (par exemple, us-central1).
    Durée d'exécution Sélectionnez Python 3.12 ou version ultérieure.
  5. Dans la section Déclencheur (facultatif) :

    1. Cliquez sur + Ajouter un déclencheur.
    2. Sélectionnez Cloud Pub/Sub.
    3. Dans Sélectionner un sujet Cloud Pub/Sub, choisissez le sujet tenable-cspm-trigger.
    4. Cliquez sur Enregistrer.
  6. Dans la section Authentification :

    1. Sélectionnez Exiger l'authentification.
    2. Consultez Identity and Access Management (IAM).
  7. Faites défiler la page vers le bas, puis développez Conteneurs, mise en réseau, sécurité.

  8. Accédez à l'onglet Sécurité :

    • Compte de service : sélectionnez le compte de service tenable-cspm-collector-sa.
  9. Accédez à l'onglet Conteneurs :

    1. Cliquez sur Variables et secrets.
    2. Cliquez sur + Ajouter une variable pour chaque variable d'environnement :
    Nom de la variable Exemple de valeur Description
    GCS_BUCKET tenable-cspm-logs Nom du bucket GCS
    GCS_PREFIX tenable-cspm Préfixe des fichiers journaux
    STATE_KEY tenable-cspm/state.json Chemin d'accès au fichier d'état
    TENABLE_ACCESS_KEY your-access-key Clé d'accès à l'API Tenable
    TENABLE_SECRET_KEY your-secret-key Clé secrète de l'API Tenable
    MAX_RECORDS 10000 Nombre maximal d'enregistrements par exécution
    PAGE_SIZE 1000 Enregistrements par page
    LOOKBACK_HOURS 24 Période d'analyse initiale
  10. Dans l'onglet Variables et secrets, faites défiler la page jusqu'à Requêtes :

    • Délai avant expiration de la requête : saisissez 600 secondes (10 minutes).
  11. Accédez à l'onglet Paramètres dans Conteneurs :

    • Dans la section Ressources :
      • Mémoire : sélectionnez 512 Mio ou plus.
      • CPU : sélectionnez 1.
    • Cliquez sur OK.
  12. Faites défiler la page jusqu'à Environnement d'exécution :

    • Sélectionnez Par défaut (recommandé).
  13. Dans la section Scaling de révision :

    • Nombre minimal d'instances : saisissez 0.
    • Nombre maximal d'instances : saisissez 100 (ou ajustez en fonction de la charge attendue).
  14. Cliquez sur Créer.

  15. Attendez que le service soit créé (une à deux minutes).

  16. Une fois le service créé, l'éditeur de code intégré s'ouvre automatiquement.

Ajouter un code de fonction

  1. Saisissez main dans Point d'entrée de la fonction.
  2. Dans l'éditeur de code intégré, créez deux fichiers :

    • Premier fichier main.py: :
    import functions_framework
    from google.cloud import storage
    import json
    import os
    import urllib3
    from datetime import datetime, timezone, timedelta
    import time
    
    # Initialize HTTP client with timeouts
    http = urllib3.PoolManager(
        timeout=urllib3.Timeout(connect=5.0, read=30.0),
        retries=False,
    )
    
    # Initialize Storage client
    storage_client = storage.Client()
    
    # Environment variables
    GCS_BUCKET = os.environ.get('GCS_BUCKET')
    GCS_PREFIX = os.environ.get('GCS_PREFIX', 'tenable-cspm')
    STATE_KEY = os.environ.get('STATE_KEY', 'tenable-cspm/state.json')
    ACCESS_KEY = os.environ.get('TENABLE_ACCESS_KEY')
    SECRET_KEY = os.environ.get('TENABLE_SECRET_KEY')
    MAX_RECORDS = int(os.environ.get('MAX_RECORDS', '10000'))
    PAGE_SIZE = int(os.environ.get('PAGE_SIZE', '1000'))
    LOOKBACK_HOURS = int(os.environ.get('LOOKBACK_HOURS', '24'))
    
    API_BASE = 'https://cloud.tenable.com'
    
    def parse_datetime(value: str) -> datetime:
        """Parse ISO datetime string to datetime object."""
        if value.endswith("Z"):
            value = value[:-1] + "+00:00"
        return datetime.fromisoformat(value)
    
    @functions_framework.cloud_event
    def main(cloud_event):
        """
        Cloud Run function triggered by Pub/Sub to fetch Tenable CSPM
        findings and write to GCS.
    
        Args:
            cloud_event: CloudEvent object containing Pub/Sub message
        """
    
        if not all([GCS_BUCKET, ACCESS_KEY, SECRET_KEY]):
            print('Error: Missing required environment variables')
            return
    
        try:
            bucket = storage_client.bucket(GCS_BUCKET)
    
            # Load state
            state = load_state(bucket, STATE_KEY)
    
            # Determine time window
            now = datetime.now(timezone.utc)
            last_time = None
    
            if isinstance(state, dict) and state.get("last_event_time"):
                try:
                    last_time = parse_datetime(state["last_event_time"])
                    last_time = last_time - timedelta(minutes=2)
                except Exception as e:
                    print(f"Warning: Could not parse last_event_time: {e}")
    
            if last_time is None:
                last_time = now - timedelta(hours=LOOKBACK_HOURS)
    
            print(f"Fetching findings from {last_time.isoformat()} to {now.isoformat()}")
    
            # Fetch findings
            records, newest_event_time = fetch_findings(
                start_time=last_time,
                end_time=now,
                page_size=PAGE_SIZE,
                max_records=MAX_RECORDS,
            )
    
            if not records:
                print("No new findings found.")
                save_state(bucket, STATE_KEY, now.isoformat())
                return
    
            # Write to GCS as NDJSON
            timestamp = now.strftime('%Y%m%d_%H%M%S')
            object_key = f"{GCS_PREFIX}/findings_{timestamp}.ndjson"
            blob = bucket.blob(object_key)
    
            ndjson = '\n'.join([json.dumps(record, ensure_ascii=False) for record in records]) + '\n'
            blob.upload_from_string(ndjson, content_type='application/x-ndjson')
    
            print(f"Wrote {len(records)} records to gs://{GCS_BUCKET}/{object_key}")
    
            # Update state with newest event time
            if newest_event_time:
                save_state(bucket, STATE_KEY, newest_event_time)
            else:
                save_state(bucket, STATE_KEY, now.isoformat())
    
            print(f"Successfully processed {len(records)} records")
    
        except Exception as e:
            print(f'Error processing findings: {str(e)}')
            raise
    
    def load_state(bucket, key):
        """Load state from GCS."""
        try:
            blob = bucket.blob(key)
            if blob.exists():
                state_data = blob.download_as_text()
                return json.loads(state_data)
        except Exception as e:
            print(f"Warning: Could not load state: {e}")
    
        return {}
    
    def save_state(bucket, key, last_event_time_iso: str):
        """Save the last event timestamp to GCS state file."""
        try:
            state = {'last_event_time': last_event_time_iso}
            blob = bucket.blob(key)
            blob.upload_from_string(
                json.dumps(state, indent=2),
                content_type='application/json'
            )
            print(f"Saved state: last_event_time={last_event_time_iso}")
        except Exception as e:
            print(f"Warning: Could not save state: {e}")
    
    def fetch_findings(start_time: datetime, end_time: datetime, page_size: int, max_records: int):
        """
        Fetch findings from Tenable CSPM API with pagination and rate limiting.
    
        Args:
            start_time: Start time for findings query
            end_time: End time for findings query
            page_size: Number of records per page
            max_records: Maximum total records to fetch
    
        Returns:
            Tuple of (records list, newest_event_time ISO string)
        """
        endpoint = f"{API_BASE}/cspm/v1/findings"
    
        headers = {
            'X-ApiKeys': f'accessKey={ACCESS_KEY};secretKey={SECRET_KEY}',
            'Accept': 'application/json',
            'User-Agent': 'GoogleSecOps-TenableCSPMCollector/1.0'
        }
    
        records = []
        newest_time = None
        page_num = 0
        backoff = 1.0
        offset = 0
    
        while True:
            page_num += 1
    
            if len(records) >= max_records:
                print(f"Reached max_records limit ({max_records})")
                break
    
            current_limit = min(page_size, max_records - len(records))
            url = f"{endpoint}?limit={current_limit}&offset={offset}"
    
            try:
                response = http.request('GET', url, headers=headers)
    
                # Handle rate limiting with exponential backoff
                if response.status == 429:
                    retry_after = int(response.headers.get('Retry-After', str(int(backoff))))
                    print(f"Rate limited (429). Retrying after {retry_after}s...")
                    time.sleep(retry_after)
                    backoff = min(backoff * 2, 30.0)
                    continue
    
                backoff = 1.0
    
                if response.status != 200:
                    print(f"HTTP Error: {response.status}")
                    response_text = response.data.decode('utf-8')
                    print(f"Response body: {response_text}")
                    return [], None
    
                data = json.loads(response.data.decode('utf-8'))
    
                page_results = data if isinstance(data, list) else data.get('findings', data.get('data', []))
    
                if not page_results:
                    print(f"No more results (empty page)")
                    break
    
                # Filter by time window
                filtered = []
                for finding in page_results:
                    status_time = finding.get('statusUpdateTime') or finding.get('createdAt') or finding.get('updatedAt')
                    if status_time:
                        try:
                            finding_dt = parse_datetime(status_time)
                            if finding_dt >= start_time and finding_dt <= end_time:
                                filtered.append(finding)
                        except Exception:
                            filtered.append(finding)
                    else:
                        filtered.append(finding)
    
                print(f"Page {page_num}: Retrieved {len(page_results)} findings, {len(filtered)} in time window")
                records.extend(filtered)
    
                # Track newest event time
                for finding in filtered:
                    try:
                        event_time = finding.get('statusUpdateTime') or finding.get('createdAt') or finding.get('updatedAt')
                        if event_time:
                            if newest_time is None or parse_datetime(event_time) > parse_datetime(newest_time):
                                newest_time = event_time
                    except Exception as e:
                        print(f"Warning: Could not parse event time: {e}")
    
                # Check for more results
                if len(page_results) < page_size:
                    print(f"Reached last page (size={len(page_results)} < limit={page_size})")
                    break
    
                offset += len(page_results)
    
            except Exception as e:
                print(f"Error fetching findings: {e}")
                return [], None
    
        print(f"Retrieved {len(records)} total findings from {page_num} pages")
        return records, newest_time
    
    • Deuxième fichier : requirements.txt: :
    functions-framework==3.*
    google-cloud-storage==2.*
    urllib3>=2.0.0
    
  3. Cliquez sur Déployer pour enregistrer et déployer la fonction.

  4. Attendez la fin du déploiement (deux à trois minutes).

Créer une tâche Cloud Scheduler

Cloud Scheduler publiera des messages dans le sujet Pub/Sub à intervalles réguliers, ce qui déclenchera la fonction Cloud Run.

  1. Dans la console GCP, accédez à Cloud Scheduler.
  2. Cliquez sur Créer une tâche.
  3. Fournissez les informations de configuration suivantes :

    Paramètre Valeur
    Nom tenable-cspm-collector-hourly
    Région Sélectionnez la même région que la fonction Cloud Run.
    Fréquence 0 * * * * (toutes les heures, à l'heure pile)
    Fuseau horaire Sélectionnez un fuseau horaire (UTC recommandé).
    Type de cible Pub/Sub
    Sujet Sélectionnez le thème tenable-cspm-trigger.
    Corps du message {} (objet JSON vide)
  4. Cliquez sur Créer.

Options de fréquence de programmation

Choisissez la fréquence en fonction du volume de journaux et des exigences de latence :

Fréquence Expression Cron Cas d'utilisation
Toutes les 5 minutes */5 * * * * Volume élevé, faible latence
Toutes les 15 minutes */15 * * * * Volume moyen
Toutes les heures 0 * * * * Standard (recommandé)
Toutes les 6 heures 0 */6 * * * Traitement par lot à faible volume
Tous les jours 0 0 * * * Collecte de données historiques

Tester l'intégration

  1. Dans la console Cloud Scheduler, recherchez votre job (tenable-cspm-collector-hourly).
  2. Cliquez sur Exécuter de force pour déclencher manuellement.
  3. Patientez quelques secondes, puis accédez à Cloud Run > Services > tenable-cspm-collector > Journaux.
  4. Vérifiez que la fonction s'est exécutée correctement. Par exemple :

    Fetching findings from YYYY-MM-DDTHH:MM:SS+00:00 to YYYY-MM-DDTHH:MM:SS+00:00
    Page 1: Retrieved X findings, Y in time window
    Wrote X records to gs://tenable-cspm-logs/tenable-cspm/findings_YYYYMMDD_HHMMSS.ndjson
    Successfully processed X records
    
  5. Consultez le bucket GCS (tenable-cspm-logs) pour vérifier que les résultats ont été écrits.

Si des erreurs s'affichent dans les journaux :

  • HTTP 401 : vérifiez les clés API dans les variables d'environnement
  • HTTP 403 : vérifiez que le compte dispose des autorisations d'administrateur dans la console Tenable Cloud Security.
  • HTTP 429 : limitation du débit. La fonction effectuera automatiquement une nouvelle tentative avec un intervalle entre les tentatives.
  • Variables d'environnement manquantes : vérifiez que toutes les variables requises sont définies.

Configurer un flux dans Google SecOps pour ingérer les journaux Tenable CSPM

  1. Accédez à Paramètres SIEM> Flux.
  2. Cliquez sur Ajouter un flux.
  3. Cliquez sur Configurer un flux unique.
  4. Dans le champ Nom du flux, saisissez un nom pour le flux (par exemple, Tenable CSPM Logs).
  5. Sélectionnez Google Cloud Storage V2 comme Type de source.
  6. Sélectionnez Tenable CSPM comme Type de journal.
  7. Cliquez sur Obtenir un compte de service. Une adresse e-mail de compte de service unique s'affiche, par exemple :

    chronicle-12345678@chronicle-gcp-prod.iam.gserviceaccount.com
    
  8. Copiez cette adresse e-mail. Vous en aurez besoin lors de la tâche suivante.

  9. Cliquez sur Suivant.

  10. Spécifiez les valeurs des paramètres d'entrée suivants :

    • URL du bucket de stockage : saisissez l'URI du bucket GCS avec le chemin d'accès au préfixe :

      gs://tenable-cspm-logs/tenable-cspm/
      
      • Remplacez :
        • tenable-cspm-logs : nom de votre bucket GCS.
        • tenable-cspm/ : préfixe/chemin d'accès au dossier dans lequel les journaux sont stockés.
    • Option de suppression de la source : sélectionnez l'option de suppression de votre choix :

      • Jamais : ne supprime jamais aucun fichier après les transferts (recommandé pour les tests).
      • Supprimer les fichiers transférés : supprime les fichiers une fois le transfert réussi.
      • Supprimer les fichiers transférés et les répertoires vides : supprime les fichiers et les répertoires vides une fois le transfert réussi.

    • Âge maximal du fichier : incluez les fichiers modifiés au cours des derniers jours (180 jours par défaut).

    • Espace de noms de l'élément : espace de noms de l'élément.

    • Libellés d'ingestion : libellé à appliquer aux événements de ce flux.

  11. Cliquez sur Suivant.

  12. Vérifiez la configuration de votre nouveau flux sur l'écran Finaliser, puis cliquez sur Envoyer.

Accorder des autorisations IAM au compte de service Google SecOps

Le compte de service Google SecOps a besoin du rôle Lecteur des objets Storage sur votre bucket GCS.

  1. Accédez à Cloud Storage > Buckets.
  2. Cliquez sur le nom de votre bucket (tenable-cspm-logs).
  3. Accédez à l'onglet Autorisations.
  4. Cliquez sur Accorder l'accès.
  5. Fournissez les informations de configuration suivantes :
    • Ajouter des comptes principaux : collez l'adresse e-mail du compte de service Google SecOps.
    • Attribuer des rôles : sélectionnez Lecteur d'objets Storage.
  6. Cliquez sur Enregistrer.

Table de mappage UDM

Champ de journal Mappage UDM Logique
statusUpdateTime, starred, remediation.console.steps, compliances, labels, serviceNowIncidentUrls, ticketLinks, findingType, identityProviderAccount, status, subStatus, title, type, sentBy additional.fields Fusionné avec les libellés clé/valeur de statusUpdateTime, starred, remediation.console.steps, chaque élément du tableau "compliances", chaque élément du tableau "labels", chaque élément du tableau "serviceNowIncidentUrls", chaque élément du tableau "ticketLinks", findingType, identityProviderAccount, status, subStatus, title, type et sentBy si principal_user n'est pas vide
description metadata.description Valeur copiée directement
has_user, has_target_resource metadata.event_type Défini sur "USER_RESOURCE_ACCESS" si has_user et has_target_resource sont définis sur "true", sinon "GENERIC_EVENT"
id metadata.product_log_id Valeur copiée directement
metadata.product_name Définie sur "Tenable CSPM"
metadata.vendor_name Définie sur "Tenable CSPM"
lien network.http.referral_url Valeur copiée directement
source principal.resource.attribute.labels Fusionné avec le libellé clé/valeur de la source
resourceOwnerPrincipals.0.principal.mail principal.user.email_addresses Valeur copiée directement
description, sentBy principal.user.userid Valeur de principal_user extraite de la description à l'aide de grok si elle n'est pas vide, sinon sentBy
catégorie security_result.category_details Valeur copiée directement
policyName security_result.rule_name Valeur copiée directement
de gravité, security_result.severity Définissez sur LOW si la gravité est "Low", sur MEDIUM si elle est "Medium", sur HIGH si elle est "High" et sur CRITICAL si elle est "Critical".
cloudProvider target.cloud.environment Définie sur MICROSOFT_AZURE si cloudProvider == "Azure", AMAZON_WEB_SERVICES si "AWS"
accountName, accountPath, resourceEnvironment, resourceOwner, resources target.resource.attribute.labels Fusionné avec les libellés clé-valeur de accountName, accountPath, chaque élément du tableau resourceEnvironment, chaque élément du tableau resourceOwner, chaque élément du tableau resources
accountId target.resource.id Valeur copiée directement

Journal des modifications

Afficher le journal des modifications pour ce parseur

Vous avez encore besoin d'aide ? Obtenez des réponses de membres de la communauté et de professionnels Google SecOps.