Collecter les journaux Proofpoint Web Browser Isolation
Ce document explique comment ingérer les journaux Proofpoint Web Browser Isolation dans Google Security Operations à l'aide de Google Cloud Storage V2.
Proofpoint Web Browser Isolation est un service d'isolation de navigateur Web à distance qui protège les utilisateurs contre les menaces Web en affichant le contenu Web dans un environnement cloud sécurisé, empêchant ainsi le code malveillant d'atteindre le point de terminaison. Il fournit des journaux d'activité de navigation via l'API Proofpoint TAP SIEM. L'analyseur extrait les champs des données d'événement d'isolation et les mappe au modèle de données unifié (UDM), en capturant les classifications d'URL, les actions des utilisateurs, les dispositions de sécurité et les métadonnées de session de navigation.
Avant de commencer
Assurez-vous de remplir les conditions suivantes :
- Une instance Google SecOps
- Un projet GCP avec l'API Cloud Storage activée
- Autorisations de créer et de gérer des buckets GCS
- Autorisations permettant de gérer les stratégies IAM sur les buckets GCS
- Autorisations permettant de créer des services Cloud Run, des sujets Pub/Sub et des jobs Cloud Scheduler
- Accès privilégié à Proofpoint avec les identifiants de l'API TAP SIEM (principal de service et code secret de l'API)
Créer un bucket Google Cloud Storage
- Accédez à la console Google Cloud.
- Sélectionnez votre projet ou créez-en un.
- Dans le menu de navigation, accédez à Cloud Storage > Buckets.
- Cliquez sur Créer un bucket.
Fournissez les informations de configuration suivantes :
Paramètre Valeur Attribuez un nom au bucket Saisissez un nom unique (par exemple, proofpoint-wbi-logs).Type d'emplacement Choisissez celle qui correspond le mieux à vos besoins (régionale, birégionale ou multirégionale). Emplacement Sélectionnez l'emplacement (par exemple, us-central1).Classe de stockage Standard (recommandé pour les journaux fréquemment consultés) Access control (Contrôle des accès) Uniforme (recommandé) Outils de protection Facultatif : Activez la gestion des versions d'objets ou la règle de conservation. Cliquez sur Créer.
Collecter les identifiants de l'API Proofpoint TAP SIEM
Obtenir des identifiants d'API
- Connectez-vous au tableau de bord Proofpoint TAP.
- Accédez à Paramètres > Applications connectées.
- Cliquez sur Créer un identifiant (ou utilisez un identifiant d'API SIEM existant).
Copiez et stockez de manière sécurisée les identifiants suivants :
- Service Principal : copiez cette valeur.
- Code secret de l'API : copiez cette valeur.
Vérifier les autorisations
Pour vérifier que les identifiants de l'API disposent des autorisations requises :
- Connectez-vous au tableau de bord Proofpoint TAP.
- Accédez à Paramètres > Applications connectées.
- Vérifiez que l'identifiant est listé et que son état est Actif.
- Vérifiez que l'accès à l'API SIEM est activé pour l'identifiant.
Tester l'accès à l'API
Testez vos identifiants avant de procéder à l'intégration :
# Replace with your actual credentials SERVICE_PRINCIPAL="<your-service-principal>" API_SECRET="<your-api-secret>" # Test TAP SIEM API access - fetch events from last hour curl -v -u "${SERVICE_PRINCIPAL}:${API_SECRET}" \ "https://tap-api-v2.proofpoint.com/v2/siem/all?format=json&sinceSeconds=3600"
Créer un compte de service pour la fonction Cloud Run
La fonction Cloud Run a besoin d'un compte de service autorisé à écrire dans le bucket GCS et à être appelée par Pub/Sub.
Créer un compte de service
- Dans la console GCP, accédez à IAM et administration > Comptes de service.
- Cliquez sur Créer un compte de service.
- Fournissez les informations de configuration suivantes :
- Nom du compte de service : saisissez
proofpoint-wbi-collector-sa. - Description du compte de service : saisissez
Service account for Cloud Run function to collect Proofpoint Web Browser Isolation logs.
- Nom du compte de service : saisissez
- Cliquez sur Créer et continuer.
- Dans la section Autoriser ce compte de service à accéder au projet, ajoutez les rôles suivants :
- Cliquez sur Sélectionner un rôle.
- Recherchez et sélectionnez Administrateur des objets Storage.
- Cliquez sur + Ajouter un autre rôle.
- Recherchez et sélectionnez Demandeur Cloud Run.
- Cliquez sur + Ajouter un autre rôle.
- Recherchez et sélectionnez Demandeur Cloud Functions.
- Cliquez sur Continuer.
- Cliquez sur OK.
Ces rôles sont requis pour :
- Administrateur des objets de l'espace de stockage : écrire des journaux dans un bucket GCS et gérer les fichiers d'état
- Demandeur Cloud Run : autorise Pub/Sub à appeler la fonction.
- Demandeur Cloud Functions : autorise l'appel de fonctions.
Accorder des autorisations IAM sur le bucket GCS
Accordez au compte de service des autorisations d'écriture sur le bucket GCS :
- Accédez à Cloud Storage > Buckets.
- Cliquez sur le nom de votre bucket (par exemple,
proofpoint-wbi-logs). - Accédez à l'onglet Autorisations.
- Cliquez sur Accorder l'accès.
- Fournissez les informations de configuration suivantes :
- Ajouter des comptes principaux : saisissez l'adresse e-mail du compte de service (par exemple,
proofpoint-wbi-collector-sa@PROJECT_ID.iam.gserviceaccount.com). - Attribuer des rôles : sélectionnez Administrateur des objets Storage.
- Ajouter des comptes principaux : saisissez l'adresse e-mail du compte de service (par exemple,
- Cliquez sur Enregistrer.
Créer un sujet Pub/Sub
Créez un sujet Pub/Sub dans lequel Cloud Scheduler publiera des messages et auquel la fonction Cloud Run s'abonnera.
- Dans la console GCP, accédez à Pub/Sub > Sujets.
- Cliquez sur Créer un sujet.
- Fournissez les informations de configuration suivantes :
- ID du sujet : saisissez
proofpoint-wbi-trigger. - Conservez les valeurs par défaut des autres paramètres.
- ID du sujet : saisissez
- Cliquez sur Créer.
Créer une fonction Cloud Run pour collecter les journaux
La fonction Cloud Run sera déclenchée par les messages Pub/Sub de Cloud Scheduler pour récupérer les événements d'isolation du navigateur à partir de l'API SIEM Proofpoint TAP et les écrire dans GCS.
- Dans la console GCP, accédez à Cloud Run.
- Cliquez sur Créer un service.
- Sélectionnez Fonction (utilisez un éditeur de modification directe pour créer une fonction).
Dans la section Configurer, fournissez les informations de configuration suivantes :
Paramètre Valeur Nom du service proofpoint-wbi-collectorRégion Sélectionnez la région correspondant à votre bucket GCS (par exemple, us-central1).Durée d'exécution Sélectionnez Python 3.12 ou une version ultérieure. Dans la section Déclencheur (facultatif) :
- Cliquez sur + Ajouter un déclencheur.
- Sélectionnez Cloud Pub/Sub.
- Dans Sélectionner un sujet Cloud Pub/Sub, choisissez le sujet Pub/Sub (
proofpoint-wbi-trigger). - Cliquez sur Enregistrer.
Dans la section Authentification :
- Sélectionnez Exiger l'authentification.
- Vérifiez Identity and Access Management (IAM).
Faites défiler la page vers le bas, puis développez Conteneurs, mise en réseau, sécurité.
Accédez à l'onglet Sécurité :
- Compte de service : sélectionnez le compte de service (
proofpoint-wbi-collector-sa).
- Compte de service : sélectionnez le compte de service (
Accédez à l'onglet Conteneurs :
- Cliquez sur Variables et secrets.
- Cliquez sur + Ajouter une variable pour chaque variable d'environnement :
Nom de la variable Exemple de valeur Description GCS_BUCKETproofpoint-wbi-logsNom du bucket GCS GCS_PREFIXwbi-logsPréfixe des fichiers journaux STATE_KEYwbi-logs/state.jsonChemin d'accès au fichier d'état SERVICE_PRINCIPALyour-service-principalCompte principal du service Proofpoint TAP API_SECRETyour-api-secretCode secret de l'API Proofpoint TAP LOOKBACK_SECONDS3600Période d'analyse en secondes (par défaut : 1 heure) Dans la section Variables et secrets, faites défiler la page jusqu'à Requêtes :
- Délai avant expiration de la requête : saisissez
600secondes (10 minutes).
- Délai avant expiration de la requête : saisissez
Accédez à l'onglet Paramètres :
- Dans la section Ressources :
- Mémoire : sélectionnez 512 Mio ou plus.
- Processeur : sélectionnez 1.
- Dans la section Ressources :
Dans la section Scaling de révision :
- Nombre minimal d'instances : saisissez
0. - Nombre maximal d'instances : saisissez
100(ou ajustez en fonction de la charge attendue).
- Nombre minimal d'instances : saisissez
Cliquez sur Créer.
Attendez que le service soit créé (une à deux minutes).
Une fois le service créé, l'éditeur de code intégré s'ouvre automatiquement.
Ajouter un code de fonction
- Saisissez main dans le champ Point d'entrée.
Dans l'éditeur de code intégré, créez deux fichiers :
Premier fichier : main.py:
import functions_framework from google.cloud import storage import json import os import urllib3 from datetime import datetime, timezone, timedelta import time import base64 # Initialize HTTP client with timeouts http = urllib3.PoolManager( timeout=urllib3.Timeout(connect=5.0, read=60.0), retries=False, ) # Initialize Storage client storage_client = storage.Client() # Environment variables GCS_BUCKET = os.environ.get('GCS_BUCKET') GCS_PREFIX = os.environ.get('GCS_PREFIX', 'wbi-logs') STATE_KEY = os.environ.get('STATE_KEY', 'wbi-logs/state.json') SERVICE_PRINCIPAL = os.environ.get('SERVICE_PRINCIPAL') API_SECRET = os.environ.get('API_SECRET') LOOKBACK_SECONDS = int(os.environ.get('LOOKBACK_SECONDS', '3600')) TAP_API_BASE = "https://tap-api-v2.proofpoint.com/v2/siem" def parse_datetime(value: str) -> datetime: """Parse ISO datetime string to datetime object.""" if value.endswith("Z"): value = value[:-1] + "+00:00" return datetime.fromisoformat(value) @functions_framework.cloud_event def main(cloud_event): """ Cloud Run function triggered by Pub/Sub to fetch Proofpoint Web Browser Isolation events via TAP SIEM API and write to GCS. Args: cloud_event: CloudEvent object containing Pub/Sub message """ if not all([GCS_BUCKET, SERVICE_PRINCIPAL, API_SECRET]): print('Error: Missing required environment variables') return try: # Get GCS bucket bucket = storage_client.bucket(GCS_BUCKET) # Load state state = load_state(bucket, STATE_KEY) now = datetime.now(timezone.utc) # Determine since_seconds from state since_seconds = LOOKBACK_SECONDS if isinstance(state, dict) and state.get("last_event_time"): try: last_time = parse_datetime(state["last_event_time"]) elapsed = (now - last_time).total_seconds() # Add 120 seconds overlap to catch delayed events since_seconds = int(elapsed) + 120 # TAP API maximum is 1 hour (3600 seconds) since_seconds = min(since_seconds, 3600) except Exception as e: print(f"Warning: Could not parse last_event_time: {e}") print(f"Fetching events from last {since_seconds} seconds") # Build auth header (Basic auth) auth_string = f"{SERVICE_PRINCIPAL}:{API_SECRET}" auth_bytes = auth_string.encode('utf-8') auth_b64 = base64.b64encode(auth_bytes).decode('utf-8') # Fetch all SIEM events records = fetch_siem_events( auth_b64=auth_b64, since_seconds=since_seconds, ) if not records: print("No new events found.") save_state(bucket, STATE_KEY, now.isoformat()) return # Write to GCS as NDJSON timestamp = now.strftime('%Y%m%d_%H%M%S') object_key = f"{GCS_PREFIX}/logs_{timestamp}.ndjson" blob = bucket.blob(object_key) ndjson = '\n'.join([json.dumps(record, ensure_ascii=False) for record in records]) + '\n' blob.upload_from_string(ndjson, content_type='application/x-ndjson') print(f"Wrote {len(records)} records to gs://{GCS_BUCKET}/{object_key}") # Update state save_state(bucket, STATE_KEY, now.isoformat()) print(f"Successfully processed {len(records)} records") except Exception as e: print(f'Error processing logs: {str(e)}') raise def load_state(bucket, key): """Load state from GCS.""" try: blob = bucket.blob(key) if blob.exists(): state_data = blob.download_as_text() return json.loads(state_data) except Exception as e: print(f"Warning: Could not load state: {e}") return {} def save_state(bucket, key, last_event_time_iso: str): """Save the last event timestamp to GCS state file.""" try: state = {'last_event_time': last_event_time_iso} blob = bucket.blob(key) blob.upload_from_string( json.dumps(state, indent=2), content_type='application/json' ) print(f"Saved state: last_event_time={last_event_time_iso}") except Exception as e: print(f"Warning: Could not save state: {e}") def fetch_siem_events(auth_b64: str, since_seconds: int): """ Fetch events from the Proofpoint TAP SIEM API. The TAP SIEM API returns all event types (clicks, messages, isolation) in a single response. The sinceSeconds parameter controls the lookback window (maximum 3600 seconds / 1 hour). Args: auth_b64: Base64-encoded Service Principal:API Secret for Basic auth since_seconds: Fetch events from the last N seconds (max 3600) Returns: List of event records """ headers = { 'Authorization': f'Basic {auth_b64}', 'Accept': 'application/json', 'User-Agent': 'GoogleSecOps-ProofpointWBICollector/1.0', } url = f"{TAP_API_BASE}/all?format=json&sinceSeconds={since_seconds}" backoff = 1.0 max_retries = 3 for attempt in range(max_retries): try: response = http.request('GET', url, headers=headers) # Handle rate limiting with exponential backoff if response.status == 429: retry_after = int(response.headers.get('Retry-After', str(int(backoff)))) print(f"Rate limited (429). Retrying after {retry_after}s...") time.sleep(retry_after) backoff = min(backoff * 2, 30.0) continue if response.status != 200: print(f"HTTP Error: {response.status}") response_text = response.data.decode('utf-8') print(f"Response body: {response_text}") return [] data = json.loads(response.data.decode('utf-8')) # TAP SIEM API returns events grouped by type all_events = [] # Collect all event types for key in ['clicksPermitted', 'clicksBlocked', 'messagesDelivered', 'messagesBlocked']: events = data.get(key, []) if events: for event in events: event['_tap_event_type'] = key all_events.extend(events) print(f"Retrieved {len(events)} {key} events") print(f"Total events retrieved: {len(all_events)}") return all_events except Exception as e: print(f"Error fetching SIEM events (attempt {attempt + 1}): {e}") if attempt < max_retries - 1: time.sleep(backoff) backoff = min(backoff * 2, 30.0) return []Deuxième fichier : requirements.txt:
functions-framework==3.* google-cloud-storage==2.* urllib3>=2.0.0
Cliquez sur Déployer pour enregistrer et déployer la fonction.
Attendez la fin du déploiement (deux à trois minutes).
Créer une tâche Cloud Scheduler
Cloud Scheduler publiera des messages dans le sujet Pub/Sub à intervalles réguliers, ce qui déclenchera la fonction Cloud Run.
- Dans la console GCP, accédez à Cloud Scheduler.
- Cliquez sur Créer une tâche.
Fournissez les informations de configuration suivantes :
Paramètre Valeur Nom proofpoint-wbi-collector-hourlyRégion Sélectionnez la même région que la fonction Cloud Run. Fréquence 0 * * * *(toutes les heures, à l'heure pile)Fuseau horaire Sélectionnez un fuseau horaire (UTC recommandé) Type de cible Pub/Sub Sujet Sélectionnez le sujet Pub/Sub ( proofpoint-wbi-trigger).Corps du message {}(objet JSON vide)Cliquez sur Créer.
Options de fréquence de programmation
Choisissez la fréquence en fonction du volume de journaux et des exigences de latence :
| Fréquence | Expression Cron | Cas d'utilisation |
|---|---|---|
| Toutes les 5 minutes | */5 * * * * |
Volume élevé, faible latence |
| Toutes les 15 minutes | */15 * * * * |
Volume moyen |
| Toutes les heures | 0 * * * * |
Standard (recommandé) |
Tester l'intégration
- Dans la console Cloud Scheduler, recherchez votre job.
- Cliquez sur Forcer l'exécution pour déclencher le job manuellement.
- Patientez pendant quelques secondes.
- Accédez à Cloud Run > Services.
- Cliquez sur le nom de votre fonction (
proofpoint-wbi-collector). - Cliquez sur l'onglet Journaux.
Vérifiez que la fonction a bien été exécutée. Par exemple :
Fetching events from last 3600 seconds Retrieved X clicksPermitted events Retrieved X messagesDelivered events Total events retrieved: X Wrote X records to gs://proofpoint-wbi-logs/wbi-logs/logs_YYYYMMDD_HHMMSS.ndjson Successfully processed X recordsAccédez à Cloud Storage > Buckets.
Cliquez sur le nom de votre bucket (
proofpoint-wbi-logs).Accédez au dossier du préfixe (
wbi-logs/).Vérifiez qu'un nouveau fichier
.ndjsona été créé avec le code temporel actuel.
Si des erreurs s'affichent dans les journaux :
- HTTP 401 : vérifiez le principal de service et le code secret de l'API dans les variables d'environnement.
- HTTP 403 : vérifiez que l'identifiant dispose d'un accès à l'API SIEM et que les événements d'isolation du navigateur sont inclus dans votre abonnement.
- HTTP 429 : limitation du débit. La fonction effectue automatiquement une nouvelle tentative avec intervalle exponentiel entre les tentatives.
- Variables d'environnement manquantes : vérifiez que toutes les variables requises sont définies.
Récupérer le compte de service Google SecOps
Google SecOps utilise un compte de service unique pour lire les données de votre bucket GCS. Vous devez accorder à ce compte de service l'accès à votre bucket.
Obtenir l'adresse e-mail du compte de service
- Accédez à Paramètres > Gestion des données > Flux. Si vous utilisez une plate-forme SIEM uniquement, accédez à Paramètres > Flux.
- Cliquez sur Ajouter un flux d'actualités.
- Cliquez sur Configurer un flux unique.
- Dans le champ Nom du flux, saisissez un nom pour le flux (par exemple,
Proofpoint Web Browser Isolation Logs). - Sélectionnez Google Cloud Storage V2 comme Type de source.
- Sélectionnez Proofpoint Web Browser Isolation comme type de journal.
- Cliquez sur Get Service Account (Obtenir un compte de service).
Une adresse e-mail de compte de service unique s'affiche, par exemple :
chronicle-12345678@chronicle-gcp-prod.iam.gserviceaccount.comCopiez cette adresse e-mail pour l'utiliser à l'étape suivante.
Cliquez sur Suivant.
Spécifiez les valeurs des paramètres d'entrée suivants :
URL du bucket de stockage : saisissez l'URI du bucket GCS avec le chemin d'accès du préfixe :
gs://proofpoint-wbi-logs/wbi-logs/- Remplacez :
proofpoint-wbi-logs: nom de votre bucket GCS.wbi-logs: préfixe/chemin d'accès au dossier facultatif où les journaux sont stockés (laissez ce champ vide pour la racine).
- Remplacez :
Option de suppression de la source : sélectionnez l'option de suppression de votre choix :
- Jamais : ne supprime jamais les fichiers après les transferts (recommandé pour les tests).
- Supprimer les fichiers transférés : supprime les fichiers après un transfert réussi.
Supprimer les fichiers transférés et les répertoires vides : supprime les fichiers et les répertoires vides une fois le transfert réussi.
Âge maximal du fichier : incluez les fichiers modifiés au cours d'un certain nombre de jours (180 jours par défaut).
Espace de noms de l'élément : espace de noms de l'élément
Étiquettes d'ingestion : étiquette à appliquer aux événements de ce flux.
Cliquez sur Suivant.
Vérifiez la configuration de votre nouveau flux d'actualités sur l'écran Finaliser, puis cliquez sur Envoyer.
Accorder des autorisations IAM au compte de service Google SecOps
Le compte de service Google SecOps doit disposer du rôle Lecteur des objets Storage sur votre bucket GCS.
- Accédez à Cloud Storage > Buckets.
- Cliquez sur le nom de votre bucket (par exemple,
proofpoint-wbi-logs). - Accédez à l'onglet Autorisations.
- Cliquez sur Accorder l'accès.
- Fournissez les informations de configuration suivantes :
- Ajouter des comptes principaux : collez l'adresse e-mail du compte de service Google SecOps.
- Attribuer des rôles : sélectionnez Lecteur d'objets Storage.
Cliquez sur Enregistrer.
Table de mappage UDM
| Champ du journal | Mappage UDM | Logique |
|---|---|---|
| metadata.event_type | Type de l'événement | |
| categories | metadata.product_event_type | Type d'événement spécifique au produit |
| parentPageURL | metadata.url_back_to_product | URL renvoyant vers le produit |
| région | principal.location.country_or_region | Pays ou région de l'emplacement du compte principal |
| zone | principal.location.name | Nom de l'emplacement du compte principal |
| userId | principal.user.product_object_id | Identifiant de l'utilisateur spécifique au produit |
| userName (Nom d'utilisateur) | principal.user.userid | Identifiant utilisateur |
| security_result | security_result | Détails du résultat de sécurité |
| disposition | security_result.action | Action de sécurité effectuée |
| disposition | security_result.action_details | Détails de l'action de sécurité |
| classification | security_result.detection_fields | Champs liés à la détection |
| url | target.url | URL de la ressource cible |
| metadata.product_name | Nom du produit | |
| metadata.vendor_name | Nom du fournisseur |
Journal des modifications
Afficher le journal des modifications de cet analyseur
Vous avez encore besoin d'aide ? Obtenez des réponses de membres de la communauté et de professionnels Google SecOps.