Collecter les journaux Fastly WAF nouvelle génération (anciennement Signal Sciences)
Ce document explique comment ingérer des journaux Fastly WAF de nouvelle génération (anciennement Signal Sciences) dans Google Security Operations à l'aide de Google Cloud Storage V2.
Fastly Next-Gen WAF (anciennement Signal Sciences) est un pare-feu d'application Web basé sur le cloud qui permet de détecter et de bloquer les menaces en temps réel pour les applications Web, les API et les microservices. Il utilise une approche basée sur les signaux pour identifier et atténuer les attaques telles que l'injection SQL, les scripts intersites, la prise de contrôle de compte et l'utilisation abusive d'applications. L'API REST Signal Sciences fournit un accès programmatique aux données de flux de requêtes, qui contiennent des informations détaillées sur les requêtes signalées et bloquées.
Avant de commencer
Assurez-vous de remplir les conditions préalables suivantes :
- Une instance Google SecOps
- Un projet Google Cloud avec l'API Cloud Storage activée
- Autorisations de créer et de gérer des buckets GCS
- Autorisations permettant de gérer les stratégies IAM sur les buckets GCS
- Autorisations permettant de créer des services Cloud Run, des sujets Pub/Sub et des jobs Cloud Scheduler
- Accès privilégié au tableau de bord Fastly Next-Gen WAF avec des autorisations d'accès à l'API
- Un compte Fastly WAF de nouvelle génération avec un nom d'entreprise et au moins un site configuré
Créer un bucket Google Cloud Cloud Storage
- Accédez à la consoleGoogle Cloud .
- Sélectionnez votre projet ou créez-en un.
- Dans le menu de navigation, accédez à Cloud Storage > Buckets.
- Cliquez sur Créer un bucket.
Fournissez les informations de configuration suivantes :
Paramètre Valeur Attribuez un nom au bucket Saisissez un nom unique (par exemple, sigsci-waf-logs).Type d'emplacement Choisissez celle qui correspond le mieux à vos besoins (régionale, birégionale ou multirégionale). Emplacement Sélectionnez l'emplacement (par exemple, us-central1).Classe de stockage Standard (recommandé pour les journaux fréquemment consultés) Access control (Contrôle des accès) Uniforme (recommandé) Outils de protection Facultatif : Activez la gestion des versions d'objets ou la règle de conservation Cliquez sur Créer.
Collecter les identifiants de l'API Fastly WAF nouvelle génération
Obtenir un jeton d'accès à l'API
- Connectez-vous au tableau de bord Fastly WAF nouvelle génération.
- Cliquez sur votre nom d'utilisateur en haut à droite, puis sélectionnez Mon profil.
- Accédez à Jetons d'accès à l'API.
- Cliquez sur Ajouter un jeton d'accès à l'API.
- Saisissez un nom descriptif pour le jeton (par exemple,
Google SecOps Integration). - Cliquez sur Create API access token (Créer un jeton d'accès à l'API).
Copiez et enregistrez les informations suivantes dans un emplacement sécurisé :
- Jeton d'API : valeur du jeton généré (affichée une seule fois)
- Adresse e-mail : l'adresse e-mail de votre compte utilisée pour l'authentification
Obtenir les noms de l'entreprise et du site
- Connectez-vous au tableau de bord Fastly WAF nouvelle génération.
- Cliquez sur Gérer > Entreprise > Présentation de l'entreprise.
- Notez le nom court de l'entreprise affiché sur la page (par exemple,
my_corp). - Accédez à Gérer > Sites.
- Notez le nom court du site pour lequel vous souhaitez collecter des journaux (par exemple,
my_site).
Vérifier les autorisations
Pour vérifier que le compte dispose des autorisations requises :
- Connectez-vous au tableau de bord Fastly WAF nouvelle génération.
- Accédez à Gérer > Entreprise > Utilisateurs de l'entreprise.
- Recherchez votre compte utilisateur dans la liste.
- Vérifiez que votre rôle est Administrateur, Propriétaire ou Observateur. Ces rôles disposent de l'accès API requis pour récupérer les données du flux de demandes.
- Si votre rôle ne dispose pas d'un accès à l'API, contactez votre administrateur Fastly WAF nouvelle génération pour qu'il vous attribue le rôle approprié.
Tester l'accès à l'API
Testez vos identifiants par rapport au point de terminaison du flux de requêtes utilisé par le collecteur. Le flux de requêtes n'accepte que les valeurs
frometuntilen minutes entières, avecuntilau moins cinq minutes dans le passé etfromau maximum 24 heures dans le passé. Le test demande les 10 minutes qui se sont terminées il y a cinq minutes :SIGSCI_EMAIL="your-email@example.com" SIGSCI_TOKEN="your-api-token" SIGSCI_CORP="your-corp-name" SIGSCI_SITE="your-site-name" UNTIL=$(( ($(date +%s) - 300) / 60 * 60 )) FROM=$(( UNTIL - 600 )) curl -sS -o feed-test.json -w "HTTP %{http_code}\n" \ -H "x-api-user: ${SIGSCI_EMAIL}" \ -H "x-api-token: ${SIGSCI_TOKEN}" \ "https://dashboard.signalsciences.net/api/v0/corps/${SIGSCI_CORP}/sites/${SIGSCI_SITE}/feed/requests?from=${FROM}&until=${UNTIL}" head -c 500 feed-test.json; echo
Si les identifiants fonctionnent, la sortie commence par HTTP 200 et feed-test.json contient un tableau data, qui peut être vide si le site n'a reçu aucune requête signalée au cours de ces 10 minutes. HTTP 401 signifie que l'adresse e-mail ou le jeton est incorrect. HTTP 400 avec Invalid timestamp param signifie que la valeur from ou until ne respecte pas les restrictions ci-dessus.
Créer un compte de service pour la fonction Cloud Run
La fonction Cloud Run a besoin d'un compte de service disposant des autorisations nécessaires pour écrire dans le bucket GCS et être appelée par Pub/Sub.
Créer un compte de service
- Dans la console GCP, accédez à IAM et administration > Comptes de service.
- Cliquez sur Créer un compte de service.
- Fournissez les informations de configuration suivantes :
- Nom du compte de service : saisissez
sigsci-waf-collector-sa. - Description du compte de service : saisissez
Service account for Cloud Run function to collect Fastly Next-Gen WAF logs.
- Nom du compte de service : saisissez
- Cliquez sur Créer et continuer.
- Dans la section Autoriser ce compte de service à accéder au projet, ajoutez les rôles suivants :
- Cliquez sur Sélectionner un rôle.
- Recherchez et sélectionnez Administrateur des objets Storage.
- Cliquez sur + Ajouter un autre rôle.
- Recherchez et sélectionnez Demandeur Cloud Run.
- Cliquez sur + Ajouter un autre rôle.
- Recherchez et sélectionnez Demandeur Cloud Functions.
- Cliquez sur Continuer.
- Cliquez sur OK.
Ces rôles sont requis pour :
- Administrateur des objets Storage : écrire des journaux dans un bucket GCS et gérer les fichiers d'état
- Demandeur Cloud Run : autorisez Pub/Sub à appeler la fonction.
- Demandeur Cloud Functions : autorise l'appel de fonctions.
Accorder des autorisations IAM sur le bucket Cloud Storage
Accordez au compte de service des autorisations d'écriture sur le bucket GCS :
- Accédez à Cloud Storage > Buckets.
- Cliquez sur le nom de votre bucket (par exemple,
sigsci-waf-logs). - Accédez à l'onglet Autorisations.
- Cliquez sur Accorder l'accès.
- Fournissez les informations de configuration suivantes :
- Ajouter des comptes principaux : saisissez l'adresse e-mail du compte de service (par exemple,
sigsci-waf-collector-sa@PROJECT_ID.iam.gserviceaccount.com). - Attribuer des rôles : sélectionnez Administrateur des objets Storage.
- Ajouter des comptes principaux : saisissez l'adresse e-mail du compte de service (par exemple,
- Cliquez sur Enregistrer.
Créer un sujet Pub/Sub
Créez un sujet Pub/Sub dans lequel Cloud Scheduler publiera des messages et auquel la fonction Cloud Run s'abonnera.
- Dans la console GCP, accédez à Pub/Sub > Sujets.
- Cliquez sur Créer un sujet.
- Fournissez les informations de configuration suivantes :
- ID du sujet : saisissez
sigsci-waf-logs-trigger. - Conservez les valeurs par défaut des autres paramètres.
- ID du sujet : saisissez
- Cliquez sur Créer.
Créer une fonction Cloud Run pour collecter les journaux
La fonction Cloud Run sera déclenchée par les messages Pub/Sub de Cloud Scheduler pour récupérer les données de flux de requêtes à partir de l'API Fastly WAF de nouvelle génération et écrire les journaux dans GCS.
- Dans la console GCP, accédez à Cloud Run.
- Cliquez sur Écrire une fonction.
Dans la section Configurer, fournissez les informations de configuration suivantes :
Paramètre Valeur Nom du service sigsci-waf-collectorRégion Sélectionnez la région correspondant à votre bucket GCS (par exemple, us-central1).Durée d'exécution Sélectionnez Python 3.12 ou une version ultérieure. Dans la section Déclencheur, cliquez sur Ajouter un déclencheur, puis sélectionnez Déclencheur Pub/Sub.
Dans le volet Déclencheur Eventarc, fournissez les informations de configuration suivantes :
- Nom du déclencheur : conservez le nom généré ou saisissez un nom pour le déclencheur.
- Type de déclencheur : sélectionnez Sources Google.
- Fournisseur d'événements : sélectionnez Pub/Sub.
- Type d'événement : sélectionnez google.cloud.pubsub.topic.v1.messagePublished.
- Sélectionner un sujet Cloud Pub/Sub : choisissez le sujet
sigsci-waf-logs-trigger. - Région : sélectionnez la même région que la fonction.
- Compte de service : sélectionnez le compte de service
sigsci-waf-collector-sa.
Cliquez sur Enregistrer le déclencheur.
Dans la section Authentification :
- Sélectionnez Exiger l'authentification.
- Sélectionnez Identity and Access Management (IAM).
Faites défiler la page jusqu'à Conteneurs, mise en réseau, sécurité et développez cette section.
Accédez à l'onglet Sécurité :
- Compte de service : sélectionnez le compte de service
sigsci-waf-collector-sa.
- Compte de service : sélectionnez le compte de service
Accédez à l'onglet Conteneurs :
- Cliquez sur Variables et secrets.
- Cliquez sur + Ajouter une variable pour chaque variable d'environnement :
Nom de la variable Exemple de valeur Description GCS_BUCKETsigsci-waf-logsNom du bucket GCS GCS_PREFIXsigsci-wafPréfixe des fichiers journaux STATE_KEYsigsci-waf-state.jsonChemin d'état, en dehors du préfixe de journal SIGSCI_EMAILyour-email@example.comAdresse e-mail de l'utilisateur de l'API Fastly Next-Gen WAF SIGSCI_TOKENyour-api-tokenJeton d'accès à l'API Fastly WAF de nouvelle génération SIGSCI_CORPyour-corp-nameNom court de l'entreprise SIGSCI_SITEyour-site-nameNom court du site LOOKBACK_HOURS1Heures à collecter lors de la première exécution (maximum : 24)WINDOW_MINUTES10Minutes de données par requête et par objet GCS MAX_WINDOW_MB200Plus grande fenêtre conservée en mémoire ; les fenêtres plus grandes sont divisées RUN_BUDGET_SECONDS480Arrêter de démarrer de nouvelles fenêtres après cette heure HTTP_TIMEOUT60Délai avant expiration de la lecture de l'API en secondes MAX_RETRIES5Nouvelles tentatives pour les réponses HTTP 429 et 5xx Dans la section Variables et secrets, faites défiler la page jusqu'à Requêtes :
- Délai avant expiration de la requête : saisissez
600secondes (10 minutes).
- Délai avant expiration de la requête : saisissez
Accédez à l'onglet Paramètres :
- Dans la section Ressources :
- Mémoire : sélectionnez 1 Gio ou plus.
- Processeur : sélectionnez 1.
- Dans la section Ressources :
Dans la section Scaling de révision :
- Nombre minimal d'instances : saisissez
0. - Nombre maximal d'instances : saisissez
1.
- Nombre minimal d'instances : saisissez
Cliquez sur Créer.
Attendez que le service soit créé (une à deux minutes).
Une fois le service créé, l'éditeur de code intégré s'ouvre automatiquement.
Ajouter un code de fonction
- Saisissez main dans le champ Point d'entrée.
Dans l'éditeur de code intégré, créez deux fichiers :
- main.py:
import functions_framework from google.api_core import exceptions as gcs_exceptions from google.cloud import storage import json import os import time from datetime import datetime, timedelta, timezone from urllib.parse import parse_qs, urlencode, urlsplit import urllib3 http = urllib3.PoolManager(retries=False) storage_client = storage.Client() API_HOST = 'https://dashboard.signalsciences.net' # The request feed only serves full minutes that ended at least 5 minutes ago # and are no older than 24 hours and 5 minutes. FEED_DELAY = timedelta(minutes=5) FEED_MAX_AGE = timedelta(hours=24) RETRY_STATUSES = (429, 500, 502, 503, 504) class FeedApiError(Exception): """The request feed API returned an error that must stop the run.""" class WindowTooLarge(Exception): """The records of one window do not fit in MAX_WINDOW_MB.""" @functions_framework.cloud_event def main(cloud_event): """Fetch the Fastly Next-Gen WAF request feed and write it to GCS, one object per time window.""" bucket_name = os.environ['GCS_BUCKET'] prefix = os.environ.get('GCS_PREFIX', 'sigsci-waf').strip('/') state_key = os.environ.get('STATE_KEY', 'sigsci-waf-state.json') corp = os.environ['SIGSCI_CORP'] site = os.environ['SIGSCI_SITE'] headers = { 'x-api-user': os.environ['SIGSCI_EMAIL'], 'x-api-token': os.environ['SIGSCI_TOKEN'], 'Accept': 'application/json', 'User-Agent': 'GoogleSecOps-SignalSciencesWAFCollector/2.0', } lookback_hours = int(os.environ.get('LOOKBACK_HOURS', '1')) window = timedelta(minutes=int(os.environ.get('WINDOW_MINUTES', '10'))) max_window_bytes = int(float(os.environ.get('MAX_WINDOW_MB', '200')) * 1024 * 1024) http_timeout = int(os.environ.get('HTTP_TIMEOUT', '60')) max_retries = int(os.environ.get('MAX_RETRIES', '5')) run_budget = int(os.environ.get('RUN_BUDGET_SECONDS', '480')) feed_path = f'/api/v0/corps/{corp}/sites/{site}/feed/requests' bucket = storage_client.bucket(bucket_name) state, generation = load_state(bucket, state_key) deadline = time.monotonic() + run_budget now = datetime.now(timezone.utc) latest_until = minute_floor(now - FEED_DELAY) oldest_from = minute_floor(now) - FEED_MAX_AGE start = resume_point(state) or minute_floor(now - timedelta(hours=lookback_hours)) if start < oldest_from: print(f'WARNING: Records from {start.isoformat()} to {oldest_from.isoformat()} are older than ' f'24 hours and can no longer be read from the request feed. Continuing from {oldest_from.isoformat()}.') start = oldest_from windows_done = 0 while start < latest_until and time.monotonic() < deadline: end = min(start + window, latest_until) while True: try: written = write_window(bucket, prefix, feed_path, headers, start, end, max_window_bytes, http_timeout, max_retries) break except WindowTooLarge: if end - start <= timedelta(minutes=1): raise RuntimeError( f'The records from {start.isoformat()} to {end.isoformat()} exceed MAX_WINDOW_MB. ' 'Increase MAX_WINDOW_MB and the function memory.') end = start + max(timedelta(minutes=1), minute_floor_delta((end - start) / 2)) print(f'Window too large, retrying with {start.isoformat()} to {end.isoformat()}') # The window is stored, so the next run starts where this one ended. state = {'next_from': int(end.timestamp())} generation = save_state(bucket, state_key, state, generation) print(f'{start.isoformat()} to {end.isoformat()}: {written}') start = end windows_done += 1 if start < latest_until: print(f'Run time budget reached after {windows_done} windows. The next run continues from {start.isoformat()}.') else: print(f'Request feed is up to date until {latest_until.isoformat()} ({windows_done} windows).') def minute_floor(dt): return dt.replace(second=0, microsecond=0) def minute_floor_delta(delta): return timedelta(minutes=int(delta.total_seconds() // 60)) def resume_point(state): """Where the previous run stopped, or None for the first run.""" if 'next_from' in state: return datetime.fromtimestamp(state['next_from'], tz=timezone.utc) if 'last_event_time' in state: # State written by the previous version of this function. It recorded the # run time, so start 5 minutes earlier to read records it could not see yet. return minute_floor(datetime.fromisoformat(state['last_event_time']) - FEED_DELAY) return None def write_window(bucket, prefix, feed_path, headers, start, end, max_window_bytes, timeout, max_retries): """Write all records from [start, end) to one GCS object and return a summary.""" blob_name = (f'{prefix}/{start:%Y/%m/%d}/' f'{start:%Y%m%dT%H%M%SZ}_{end:%Y%m%dT%H%M%SZ}.ndjson') if bucket.get_blob(blob_name) is not None: # A previous run stored this window but did not save the state. return f'already stored in {blob_name}' lines = [] size = 0 for record in fetch_feed(feed_path, headers, start, end, timeout, max_retries): line = json.dumps(record, ensure_ascii=False).encode('utf-8') + b'\n' size += len(line) if size > max_window_bytes: raise WindowTooLarge() lines.append(line) if not lines: return 'no records' try: # if_generation_match=0 creates the object only if it does not exist. bucket.blob(blob_name).upload_from_string( b''.join(lines), content_type='application/x-ndjson', if_generation_match=0) except gcs_exceptions.PreconditionFailed: return f'already stored in {blob_name}' return f'wrote {len(lines)} records to gs://{bucket.name}/{blob_name}' def fetch_feed(feed_path, headers, start, end, timeout, max_retries): """Yield every record of the request feed between start and end.""" query = urlencode({'from': int(start.timestamp()), 'until': int(end.timestamp())}) page = call_api('GET', f'{API_HOST}{feed_path}?{query}', headers, None, timeout, max_retries) while True: yield from page.get('data') or [] next_uri = (page.get('next') or {}).get('uri') or '' if not next_uri: return parsed = urlsplit(next_uri) cursors = parse_qs(parsed.query).get('next') if parsed.scheme or parsed.netloc or parsed.path != feed_path or not cursors: raise FeedApiError(f'Unexpected next.uri: {next_uri}') # Later pages are requested with POST and the decoded next cursor as a form field. # The cursor is valid for one minute. page = call_api('POST', f'{API_HOST}{parsed.path}', headers, {'next': cursors[0]}, timeout, max_retries) def call_api(method, url, headers, form, timeout, max_retries): """Return the decoded JSON response, retrying throttling and server errors.""" failures = 0 while True: try: if form is None: response = http.request(method, url, headers=headers, timeout=urllib3.Timeout(connect=10.0, read=timeout)) else: response = http.request(method, url, headers=headers, fields=form, encode_multipart=False, timeout=urllib3.Timeout(connect=10.0, read=timeout)) except urllib3.exceptions.HTTPError as e: response, error = None, str(e) if response is not None and response.status == 200: return json.loads(response.data) if response is not None: error = f'HTTP {response.status}: {response.data[:500].decode("utf-8", errors="replace")}' if response.status not in RETRY_STATUSES: raise FeedApiError(error) failures += 1 if failures > max_retries: raise FeedApiError(f'{error} (after {max_retries} retries)') wait = min(30, 2 ** failures) retry_after = response.headers.get('Retry-After', '') if response is not None else '' if retry_after.isdigit(): wait = int(retry_after) print(f'{error}. Retry {failures}/{max_retries} in {wait}s') time.sleep(wait) def load_state(bucket, key): """Return the saved state and its object generation (0 if there is no state yet).""" blob = bucket.get_blob(key) if blob is None: return {}, 0 return json.loads(blob.download_as_text()), blob.generation def save_state(bucket, key, state, generation): """Save the state only if no other run changed it since it was loaded.""" blob = bucket.blob(key) try: blob.upload_from_string(json.dumps(state), content_type='application/json', if_generation_match=generation) except gcs_exceptions.PreconditionFailed: raise RuntimeError(f'{key} was changed by another run; stopping to avoid duplicate collection.') return blob.generation- requirements.txt:
functions-framework==3.* google-cloud-storage==2.* urllib3>=2.0.0Cliquez sur Déployer pour enregistrer et déployer la fonction.
Attendez la fin du déploiement (deux à trois minutes).
Créer une tâche Cloud Scheduler
Cloud Scheduler publiera des messages dans le sujet Pub/Sub à intervalles réguliers, ce qui déclenchera la fonction Cloud Run.
- Dans la console GCP, accédez à Cloud Scheduler.
- Cliquez sur Créer une tâche.
Fournissez les informations de configuration suivantes :
Paramètre Valeur Nom sigsci-waf-collector-hourlyRégion Sélectionnez la même région que la fonction Cloud Run. Fréquence 5 * * * *(toutes les heures, à cinq minutes après l'heure pile)Fuseau horaire Sélectionnez un fuseau horaire (UTC recommandé) Type de cible Pub/Sub Sujet Sélectionnez le sujet sigsci-waf-logs-trigger.Corps du message {}(objet JSON vide)Cliquez sur Créer.
Options de fréquence de programmation
Le flux de requêtes est diffusé toutes les minutes, de cinq minutes après sa fin jusqu'à 24 heures plus tard. Chaque exécution collecte toutes les données depuis l'arrêt de l'exécution précédente jusqu'à cinq minutes auparavant. Un intervalle plus court ne fait donc que réduire la latence. Exécutez le job au moins toutes les heures : si la fonction s'arrête pendant plus de 24 heures, les enregistrements datant de plus de 24 heures ne peuvent plus être collectés.
| Fréquence | Expression Cron | Cas d'utilisation |
|---|---|---|
| Toutes les 5 minutes | */5 * * * * |
Volume élevé, faible latence |
| Toutes les 15 minutes | */15 * * * * |
Volume moyen |
| Toutes les heures | 5 * * * * |
Standard (recommandé) |
Tester l'intégration
- Dans la console Cloud Scheduler, recherchez votre job.
- Cliquez sur Forcer l'exécution pour déclencher le job manuellement.
- Patientez pendant quelques secondes.
- Accédez à Cloud Run > Services.
- Cliquez sur
sigsci-waf-collector. - Cliquez sur l'onglet Journaux.
Vérifiez que la fonction a bien été exécutée. Recherchez des lignes semblables à celles-ci, une par fenêtre de 10 minutes :
2026-01-15T09:00:00+00:00 to 2026-01-15T09:10:00+00:00: wrote 42 records to gs://sigsci-waf-logs/sigsci-waf/2026/01/15/20260115T090000Z_20260115T091000Z.ndjson 2026-01-15T09:10:00+00:00 to 2026-01-15T09:20:00+00:00: no records Request feed is up to date until 2026-01-15T10:00:00+00:00 (6 windows).Accédez à Cloud Storage > Buckets.
Cliquez sur le nom de votre bucket (
sigsci-waf-logs).Accédez au dossier
sigsci-waf/.Vérifiez que les fichiers
.ndjsonont été créés dans un dossierYYYY/MM/DD/. Chaque nom de fichier contient le début et la fin de sa fenêtre.
Si la fonction échoue, l'exécution s'arrête sans enregistrer l'état, et l'exécution suivante collecte à nouveau la même fenêtre. Dans les journaux, recherchez :
- HTTP 401 : vérifiez l'adresse e-mail et le jeton de l'API dans les variables d'environnement.
- HTTP 403 : vérifiez que le compte dispose du rôle d'administrateur, de propriétaire ou d'observateur dans le tableau de bord Fastly WAF nouvelle génération.
- HTTP 400
Invalid timestamp param: la valeurfromouuntilne respecte pas les restrictions du flux de requêtes. Vérifiez que le code de la fonction correspond à celui de cette page. - HTTP 429, 500, 502, 503 ou 504 : la fonction effectue jusqu'à
MAX_RETRIESnouvelles tentatives, puis s'arrête. L'exécution suivante relance la fenêtre. can no longer be read from the request feed: la fonction n'a pas été exécutée pendant plus de 24 heures. Les enregistrements datant de plus de 24 heures ne sont plus disponibles dans le flux de requêtes.exceed MAX_WINDOW_MB: une minute d'enregistrements est supérieure àMAX_WINDOW_MB. AugmentezMAX_WINDOW_MBet la mémoire de la fonction.was changed by another run: deux exécutions se sont chevauchées. Vérifiez que le nombre maximal d'instances est défini sur1.KeyError: une variable d'environnement obligatoire est manquante.
Configurer un flux dans Google SecOps pour ingérer les journaux Fastly WAF de nouvelle génération
- Accédez à Paramètres > Gestion des données > Flux. Si vous utilisez une plate-forme SIEM uniquement, accédez à Paramètres > Flux.
- Cliquez sur Ajouter un flux.
- Cliquez sur Configurer un flux unique.
- Dans le champ Nom du flux, saisissez un nom pour le flux (par exemple,
Signal Sciences WAF Logs). - Sélectionnez Google Cloud Storage V2 comme Type de source.
- Sélectionnez Signal Sciences WAF comme Type de journal.
Cliquez sur Get Service Account (Obtenir un compte de service). Une adresse e-mail de compte de service unique s'affiche, par exemple :
chronicle-12345678@chronicle-gcp-prod.iam.gserviceaccount.comCopiez cette adresse e-mail.
Cliquez sur Suivant.
Spécifiez les valeurs des paramètres d'entrée suivants :
URL du bucket de stockage : saisissez l'URI du bucket GCS avec le chemin d'accès du préfixe :
gs://sigsci-waf-logs/sigsci-waf/- Remplacez :
sigsci-waf-logs: nom de votre bucket GCS.sigsci-waf: préfixe/chemin d'accès au dossier facultatif où les journaux sont stockés (laisser vide pour la racine).
- Remplacez :
Option de suppression de la source : sélectionnez l'option de suppression de votre choix :
- Ne jamais supprimer les fichiers : ne supprime jamais les fichiers de la source (recommandé pour les tests).
- Supprimer les fichiers transférés et les répertoires vides : supprimez les fichiers et les répertoires vides de la source une fois la récupération terminée.
Âge maximal des fichiers : incluez les fichiers modifiés au cours d'un certain nombre de jours (180 jours par défaut).
Espace de noms de l'élément : espace de noms de l'élément
Étiquettes d'ingestion : étiquette à appliquer aux événements de ce flux
Cliquez sur Suivant.
Vérifiez la configuration de votre nouveau flux sur l'écran Finaliser, puis cliquez sur Envoyer.
Accorder des autorisations IAM au compte de service Google SecOps
Le compte de service Google SecOps a besoin de deux rôles sur votre bucket GCS : Lecteur des objets Storage pour lire les objets de journal et un rôle au niveau du bucket pour lire les métadonnées du bucket.
- Accédez à Cloud Storage > Buckets.
- Cliquez sur le nom de votre bucket.
- Accédez à l'onglet Autorisations.
- Cliquez sur Accorder l'accès.
- Fournissez les informations de configuration suivantes :
- Ajouter des comptes principaux : collez l'adresse e-mail du compte de service Google SecOps.
- Attribuer des rôles : sélectionnez les deux rôles suivants :
- Lecteur des objets de l'espace de stockage : lit les objets de journal.
- Lecteur des anciens buckets Storage : lit les métadonnées du bucket. Si vous avez sélectionné l'option de suppression Supprimer les fichiers transférés et les répertoires vides, sélectionnez plutôt Rédacteur de bucket Storage ancien, qui accorde également l'autorisation de suppression.
- Cliquez sur Enregistrer.
Table de mappage UDM
| Champ du journal | Mappage UDM | Logique |
|---|---|---|
message_data |
metadata.description |
Mappage direct |
created |
metadata.event_timestamp |
Analysé en tant que ISO8601 |
timestamp |
metadata.event_timestamp |
Analysé en tant que RFC3339 |
event_type |
metadata.event_type |
Mappage direct |
has_target |
metadata.event_type |
Mapped: true → NETWORK_HTTP, false → STATUS_UPDATE |
label |
metadata.ingestion_labels |
Fusionné |
eventType |
metadata.product_event_type |
Mappage direct |
proto |
network.application_protocol |
Mappé : HTTP/1.1 → HTTP |
protocol |
network.application_protocol |
Mappé : HTTP/1.1 → HTTP |
details.method |
network.http.method |
Mappage direct |
method |
network.http.method |
Mappage direct |
details.uri |
network.http.referral_url |
Mappage direct |
msgData.detailLink |
network.http.referral_url |
Mappage direct |
uri |
network.http.referral_url |
Mappage direct |
respcode |
network.http.response_code |
Renommé/Mappé |
responseCode |
network.http.response_code |
Renommé/Mappé |
details.userAgent |
network.http.user_agent |
Mappage direct |
msgData.sites |
network.http.user_agent |
Mappage direct |
userAgent |
network.http.user_agent |
Mappage direct |
resSize |
network.received_bytes |
Renommé/Mappé |
responseSize |
network.received_bytes |
Renommé/Mappé |
details.tlsCipher |
network.tls.cipher |
Mappage direct |
tlsCipher |
network.tls.cipher |
Mappage direct |
O |
network.tls.client.certificate.issuer |
Renommé/Mappé |
details.tlsProtocol |
network.tls.version |
Mappage direct |
tlsProtocol |
network.tls.version |
Mappage direct |
details.serverHostname |
principal.asset.hostname |
Mappage direct |
serverHostname |
principal.asset.hostname |
Mappage direct |
details.serverName |
principal.asset.network_domain |
Mappage direct |
serverName |
principal.asset.network_domain |
Mappage direct |
details.serverHostname |
principal.hostname |
Mappage direct |
serverHostname |
principal.hostname |
Mappage direct |
details.id |
principal.process.pid |
Mappage direct |
id |
principal.process.pid |
Mappage direct |
security_result_headin |
security_result |
Fusionné |
security_result_headout |
security_result |
Fusionné |
security_result_tag |
security_result |
Fusionné |
sec_res_headOut |
security_result.about.resource.attribute.labels |
Fusionné |
sec_res_headin |
security_result.about.resource.attribute.labels |
Fusionné |
security_result_action |
security_result.action |
Fusionné |
msgData.conditions |
security_result.description |
Mappage direct |
detector_field |
security_result.detection_fields |
Fusionné |
link_field |
security_result.detection_fields |
Fusionné |
location_field |
security_result.detection_fields |
Fusionné |
redaction_field |
security_result.detection_fields |
Fusionné |
type_field |
security_result.detection_fields |
Fusionné |
value_field |
security_result.detection_fields |
Fusionné |
msgData.reason |
security_result.summary |
Mappage direct |
details.remoteHostname |
target.asset.hostname |
Mappage direct |
remoteHostname |
target.asset.hostname |
Mappage direct |
remoteIP |
target.asset.ip |
Fusionné |
target_ip |
target.asset.ip |
Fusionné |
details.remoteHostname |
target.hostname |
Mappage direct |
remoteHostname |
target.hostname |
Mappage direct |
remoteIP |
target.ip |
Fusionné |
target_ip |
target.ip |
Fusionné |
client_port |
target.port |
Mappage direct |
changes_label |
target.resource.attribute.labels |
Fusionné |
msgData.name |
target.resource.name |
Mappage direct |
URI |
target.url |
Mappage direct |
username |
target.user.user_display_name |
Mappage direct |
userid |
target.user.userid |
Mappage direct |
| N/A | metadata.event_type |
Constante : NETWORK_HTTP |
| N/A | metadata.product_name |
Constante : Signal Sciences WAF |
| N/A | metadata.vendor_name |
Constante : Signal Sciences |
| N/A | network.application_protocol |
Constante : HTTP |
Vous avez encore besoin d'aide ? Obtenez des réponses de membres de la communauté et de professionnels Google SecOps.