Google Cloud Looker-Audit-Logs erfassen

Unterstützt in:

In diesem Dokument wird beschrieben, wie Sie Google Cloud Looker-Audit-Logs mit Google Cloud Storage oder Amazon S3 in Google Security Operations aufnehmen.

Looker ist eine Business-Intelligence- und Datenanalyseplattform, mit der Unternehmen Geschäftsdaten in Echtzeit untersuchen, analysieren und teilen können. Das Systemaktivitätsmodell von Looker verfolgt Nutzerauthentifizierungsereignisse, den Verlauf der Abfrageausführung, den Zugriff auf Dashboards und Looks, die Erstellung und Änderung von Inhalten, Downloadereignisse, API-Aufrufe, geplante Übermittlungsereignisse und Berechtigungsänderungen.

Hinweis

Prüfen Sie, ob folgende Voraussetzungen erfüllt sind:

  • Eine Google SecOps-Instanz
  • Eine Looker-Instanz mit Administratorzugriff oder der Berechtigung see_system_activity
  • Looker API-Anmeldedaten (Client-ID und Clientschlüssel)
  • Für GCS-Pfad: Ein GCP-Projekt mit aktivierten Cloud Storage, Cloud Run, Pub/Sub und Cloud Scheduler APIs
  • Für S3-Pfad: Privilegierter Zugriff auf AWS (S3, IAM)

Looker API-Anmeldedaten konfigurieren

Damit Google SecOps Audit-Daten zu Systemaktivitäten abrufen kann, müssen Sie API-Anmeldedaten in Looker erstellen und ein Dienstkonto mit den erforderlichen Berechtigungen konfigurieren.

Looker-Dienstkonto für API-Zugriff erstellen

  1. Melden Sie sich als Administrator in Ihrer Looker-Instanz an.
  2. Klicken Sie auf Verwaltung > Nutzer.
  3. Klicken Sie auf Nutzer hinzufügen.
  4. Geben Sie im Feld E-Mail-Adresse die E-Mail-Adresse eines Dienstkontos ein (z. B. chronicle-integration@yourcompany.com).
  5. Wählen Sie unter Rollen eine Rolle aus, die die Berechtigung see_system_activity enthält.

  6. Klicken Sie auf Speichern.

API3-Anmeldedaten generieren

  1. Klicken Sie auf Verwaltung > Nutzer.
  2. Suchen Sie den von Ihnen erstellten Dienstkontonutzer und klicken Sie auf Bearbeiten.
  3. Scrollen Sie nach unten zum Abschnitt API-Schlüssel.
  4. Klicken Sie auf Neuer API-Schlüssel.
  5. Kopieren Sie die folgenden Werte und speichern Sie sie an einem sicheren Ort:

    • Client-ID: Die öffentliche Kennung für die API-Authentifizierung.
    • Clientschlüssel: Der private Schlüssel für die API-Authentifizierung.

Basis-URL der Looker API ermitteln

  • Die Basis-URL Ihrer Looker API hat das folgende Format:

    https://<instance_name>.cloud.looker.com
    

Für Looker-Instanzen, die in Google Cloud oder Microsoft Azure gehostet werden, und für Instanzen, die in AWS gehostet und am oder nach dem 07.07.2020 erstellt wurden, verwendet die API Port 443 (Standard-HTTPS). Bei älteren, von AWS gehosteten Instanzen verwendet die API möglicherweise Port 19999.

Sie finden die API-Host-URL in Ihrer Looker-Instanz unter Admin > API.

API-Zugriff testen

  • Testen Sie Ihre Anmeldedaten, bevor Sie mit der Integration fortfahren:

    # Replace with your actual credentials
    LOOKER_BASE_URL="https://your-instance.cloud.looker.com"
    CLIENT_ID="your-client-id"
    CLIENT_SECRET="your-client-secret"
    
    # Obtain access token
    TOKEN=$(curl -s -X POST "${LOOKER_BASE_URL}/api/4.0/login" \
        -d "client_id=${CLIENT_ID}&client_secret=${CLIENT_SECRET}" \
        | python3 -c "import sys,json; print(json.load(sys.stdin)['access_token'])")
    
    # Test System Activity access
    curl -s -H "Authorization: token ${TOKEN}" \
        "${LOOKER_BASE_URL}/api/4.0/queries/run/json" \
        -X POST \
        -H "Content-Type: application/json" \
        -d '{"model":"system__activity","view":"event","fields":["event.name","event.created_time"],"limit":"5","sorts":["event.created_time desc"]}' \
        | python3 -m json.tool
    

Eine erfolgreiche Antwort gibt ein JSON-Array der letzten Looker-Ereignisse zurück.

Option A: Aufnahme mit Google Cloud Storage konfigurieren

Bei dieser Option wird eine Cloud Run-Funktion verwendet, um die Looker API nach Audit-Ereignissen für Systemaktivitäten abzufragen und diese in einen GCS-Bucket zu schreiben, damit sie von Google SecOps aufgenommen werden können.

Google Cloud Storage-Bucket erstellen

  1. Gehen Sie zur Google Cloud Console.
  2. Wählen Sie Ihr Projekt aus oder erstellen Sie ein neues.
  3. Rufen Sie im Navigationsmenü Cloud Storage > Buckets auf.
  4. Klicken Sie auf Bucket erstellen.
  5. Geben Sie die folgenden Konfigurationsdetails an:

    Einstellung Wert
    Bucket benennen Geben Sie einen global eindeutigen Namen ein (z. B. looker-audit-logs-gcs).
    Standorttyp Wählen Sie die Option, die am besten zu Ihren Anforderungen passt (Region, Dual-Region, Multi-Region).
    Standort Wählen Sie den Standort aus (z. B. us-central1).
    Speicherklasse Standard (empfohlen für Logs, auf die häufig zugegriffen wird)
    Zugriffssteuerung Einheitlich (empfohlen)
    Schutztools Optional: Objektversionsverwaltung oder Aufbewahrungsrichtlinie aktivieren
  6. Klicken Sie auf Erstellen.

Dienstkonto für die Cloud Run-Funktion erstellen

  1. Rufen Sie in der GCP Console die Seite IAM und Verwaltung > Dienstkonten auf.
  2. Klicken Sie auf Dienstkonto erstellen.
  3. Geben Sie die folgenden Konfigurationsdetails an:
    • Name des Dienstkontos: Geben Sie looker-audit-collector-sa ein.
    • Beschreibung des Dienstkontos: Geben Sie Service account for Cloud Run function to collect Looker audit logs ein.
  4. Klicken Sie auf Erstellen und fortfahren.
  5. Fügen Sie im Abschnitt Diesem Dienstkonto Zugriff auf das Projekt erteilen die folgenden Rollen hinzu:
    1. Klicken Sie auf Rolle auswählen.
    2. Suchen Sie nach Storage Object Admin und wählen Sie die Rolle aus.
    3. Klicken Sie auf + Weitere Rolle hinzufügen.
    4. Suchen Sie nach Cloud Run Invoker und wählen Sie die Rolle aus.
    5. Klicken Sie auf + Weitere Rolle hinzufügen.
    6. Suchen Sie nach Cloud Functions-Aufrufer und wählen Sie die Rolle aus.
  6. Klicken Sie auf Weiter.
  7. Klicken Sie auf Fertig.

IAM-Berechtigungen für GCS-Bucket gewähren

  1. Rufen Sie Cloud Storage > Buckets auf.
  2. Klicken Sie auf den Namen Ihres Buckets (looker-audit-logs-gcs).
  3. Wechseln Sie zum Tab Berechtigungen.
  4. Klicken Sie auf Zugriff erlauben.
  5. Geben Sie die folgenden Konfigurationsdetails an:
    • Hauptkonten hinzufügen: Geben Sie die E-Mail-Adresse des Dienstkontos (looker-audit-collector-sa@PROJECT_ID.iam.gserviceaccount.com) ein.
    • Rollen zuweisen: Wählen Sie Storage-Objekt-Administrator aus.
  6. Klicken Sie auf Speichern.

Pub/Sub-Thema erstellen

  1. Wechseln Sie in der GCP Console zu Pub/Sub > Themen.
  2. Klicken Sie auf Thema erstellen.
  3. Geben Sie die folgenden Konfigurationsdetails an:
    • Themen-ID: Geben Sie looker-audit-trigger ein.
    • Übernehmen Sie die anderen Einstellungen.
  4. Klicken Sie auf Erstellen.

Cloud Run-Funktion zum Erfassen von Logs erstellen

  1. Rufen Sie in der GCP Console Cloud Run auf.
  2. Klicken Sie auf Dienst erstellen.
  3. Wählen Sie Funktion aus (Funktion mit einem Inline-Editor erstellen).
  4. Geben Sie im Abschnitt Konfigurieren die folgenden Konfigurationsdetails an:

    Einstellung Wert
    Dienstname looker-audit-collector
    Region Wählen Sie die Region aus, die Ihrem GCS-Bucket entspricht (z. B. us-central1).
    Laufzeit Wählen Sie Python 3.12 oder höher aus.
  5. Im Abschnitt Trigger (optional):

    1. Klicken Sie auf + Trigger hinzufügen.
    2. Wählen Sie Cloud Pub/Sub aus.
    3. Wählen Sie unter Cloud Pub/Sub-Thema auswählen die Option looker-audit-trigger aus.
    4. Klicken Sie auf Speichern.
  6. Im Abschnitt Authentifizierung:

    1. Wählen Sie Authentifizierung erforderlich aus.
    2. Prüfen Sie Identity and Access Management (IAM).
  7. Scrollen Sie nach unten und maximieren Sie Container, Netzwerk, Sicherheit.

  8. Rufen Sie den Tab Sicherheit auf:

    • Dienstkonto: Wählen Sie looker-audit-collector-sa aus.
  9. Rufen Sie den Tab Container auf:

    1. Klicken Sie auf Variablen und Secrets.
    2. Klicken Sie für jede Umgebungsvariable auf + Variable hinzufügen:
    Variablenname Beispielwert Beschreibung
    GCS_BUCKET looker-audit-logs-gcs Name des GCS-Buckets
    GCS_PREFIX looker-audit Präfix für Logdateien
    STATE_KEY looker-audit/state.json Pfad der Statusdatei
    LOOKER_BASE_URL https://your-instance.cloud.looker.com Basis-URL der Looker API
    LOOKER_CLIENT_ID your-client-id Looker API-Client-ID
    LOOKER_CLIENT_SECRET your-client-secret Looker API-Clientschlüssel
    LOOKBACK_HOURS 24 Anfänglicher Rückschauzeitraum
    PAGE_SIZE 5000 Einträge pro API-Seite
    MAX_PAGES 20 Maximale Seitenzahl pro Abfrage
  10. Scrollen Sie im Bereich Variablen und Secrets nach unten zu Anfragen:

    • Zeitüberschreitung bei Anfrage: Geben Sie 600 Sekunden (10 Minuten) ein.
  11. Rufen Sie den Tab Einstellungen auf:

    • Im Abschnitt Ressourcen:
      • Arbeitsspeicher: Wählen Sie 512 MiB oder höher aus.
      • CPU: Wählen Sie 1 aus.
  12. Im Abschnitt Versionsskalierung:

    • Mindestanzahl von Instanzen: Geben Sie 0 ein.
    • Maximale Anzahl von Instanzen: Geben Sie 100 ein.
  13. Klicken Sie auf Erstellen.

  14. Warten Sie ein bis zwei Minuten, bis der Dienst erstellt wurde.

  15. Nachdem der Dienst erstellt wurde, wird der Inline-Code-Editor automatisch geöffnet.

Funktionscode hinzufügen

  1. Geben Sie main in das Feld Einstiegspunkt ein.
  2. Erstellen Sie im Inline-Code-Editor zwei Dateien:
  • main.py:

    import functions_framework
    from google.cloud import storage
    import json
    import os
    import urllib3
    import urllib.parse
    from datetime import datetime, timezone, timedelta
    
    http = urllib3.PoolManager(
        timeout=urllib3.Timeout(connect=10.0, read=60.0),
        retries=False,
    )
    
    storage_client = storage.Client()
    
    GCS_BUCKET = os.environ.get('GCS_BUCKET')
    GCS_PREFIX = os.environ.get('GCS_PREFIX', 'looker-audit')
    STATE_KEY = os.environ.get('STATE_KEY', 'looker-audit/state.json')
    LOOKER_BASE_URL = os.environ.get('LOOKER_BASE_URL', '').rstrip('/')
    CLIENT_ID = os.environ.get('LOOKER_CLIENT_ID')
    CLIENT_SECRET = os.environ.get('LOOKER_CLIENT_SECRET')
    LOOKBACK_HOURS = int(os.environ.get('LOOKBACK_HOURS', '24'))
    PAGE_SIZE = int(os.environ.get('PAGE_SIZE', '5000'))
    MAX_PAGES = int(os.environ.get('MAX_PAGES', '20'))
    
    @functions_framework.cloud_event
    def main(cloud_event):
        if not all([GCS_BUCKET, LOOKER_BASE_URL, CLIENT_ID, CLIENT_SECRET]):
            print('Error: Missing required environment variables')
            return
    
        try:
            bucket = storage_client.bucket(GCS_BUCKET)
            state = load_state(bucket)
            now = datetime.now(timezone.utc)
    
            if isinstance(state, dict) and state.get('last_event_time'):
                try:
                    last_val = state['last_event_time']
                    if last_val.endswith('Z'):
                        last_val = last_val[:-1] + '+00:00'
                    last_time = datetime.fromisoformat(last_val)
                    last_time = last_time - timedelta(minutes=2)
                except Exception as e:
                    print(f"Warning: Could not parse last_event_time: {e}")
                    last_time = now - timedelta(hours=LOOKBACK_HOURS)
            else:
                last_time = now - timedelta(hours=LOOKBACK_HOURS)
    
            print(f"Fetching events from {last_time.isoformat()} to {now.isoformat()}")
    
            token = get_access_token()
    
            events = fetch_system_activity(
                token, 'event',
                [
                    'event.id', 'event.name', 'event.category',
                    'event.created_time', 'event.is_api_call',
                    'event.is_admin', 'event.is_looker_employee',
                    'user.id', 'user.name', 'user.email'
                ],
                'event.created_time', last_time, now
            )
    
            history = fetch_system_activity(
                token, 'history',
                [
                    'history.id', 'history.created_time',
                    'history.completed_time', 'history.status',
                    'history.source', 'history.issuer_source',
                    'history.runtime', 'history.message',
                    'query.id', 'query.model', 'query.view',
                    'user.id', 'user.name', 'user.email',
                    'dashboard.id', 'dashboard.title',
                    'look.id', 'look.title'
                ],
                'history.created_time', last_time, now
            )
    
            all_records = []
            for e in events:
                e['_looker_record_type'] = 'event'
                all_records.append(e)
            for h in history:
                h['_looker_record_type'] = 'history'
                all_records.append(h)
    
            if not all_records:
                print("No new records found.")
                save_state(bucket, now.isoformat())
                return
    
            timestamp = now.strftime('%Y%m%d_%H%M%S')
            object_key = f"{GCS_PREFIX}/looker_audit_{timestamp}.ndjson"
            blob = bucket.blob(object_key)
    
            ndjson = '\n'.join(
                [json.dumps(r, ensure_ascii=False, default=str) for r in all_records]
            ) + '\n'
            blob.upload_from_string(ndjson, content_type='application/x-ndjson')
    
            print(f"Wrote {len(all_records)} records to gs://{GCS_BUCKET}/{object_key}")
    
            newest = find_newest_time(events, history)
            save_state(bucket, newest if newest else now.isoformat())
    
            print(f"Successfully processed {len(all_records)} records "
                  f"(events: {len(events)}, history: {len(history)})")
    
        except Exception as e:
            print(f'Error processing logs: {str(e)}')
            raise
    
    def get_access_token():
        url = f"{LOOKER_BASE_URL}/api/4.0/login"
        encoded_body = urllib.parse.urlencode({
            'client_id': CLIENT_ID,
            'client_secret': CLIENT_SECRET
        }).encode('utf-8')
    
        response = http.request(
            'POST', url,
            body=encoded_body,
            headers={'Content-Type': 'application/x-www-form-urlencoded'}
        )
    
        if response.status != 200:
            raise Exception(
                f"Looker login failed: {response.status} - "
                f"{response.data.decode('utf-8')}"
            )
    
        data = json.loads(response.data.decode('utf-8'))
        token = data.get('access_token')
        if not token:
            raise Exception("No access_token in login response")
    
        print("Successfully obtained Looker API access token")
        return token
    
    def fetch_system_activity(token, view, fields, time_field, start_time, end_time):
        start_str = start_time.strftime('%Y-%m-%d %H:%M:%S')
        end_str = end_time.strftime('%Y-%m-%d %H:%M:%S')
    
        all_records = []
        offset = 0
    
        for page in range(MAX_PAGES):
            query_body = {
                "model": "system__activity",
                "view": view,
                "fields": fields,
                "filters": {
                    time_field: f"{start_str} to {end_str}"
                },
                "sorts": [f"{time_field} asc"],
                "limit": str(PAGE_SIZE),
                "offset": str(offset)
            }
    
            url = f"{LOOKER_BASE_URL}/api/4.0/queries/run/json"
            response = http.request(
                'POST', url,
                body=json.dumps(query_body).encode('utf-8'),
                headers={
                    'Authorization': f'token {token}',
                    'Content-Type': 'application/json'
                }
            )
    
            if response.status == 429:
                print(f"Rate limited on {view} query. Stopping pagination.")
                break
    
            if response.status != 200:
                print(f"{view} query failed: {response.status} - "
                      f"{response.data.decode('utf-8')}")
                break
    
            page_results = json.loads(response.data.decode('utf-8'))
    
            if not page_results:
                break
    
            all_records.extend(page_results)
            print(f"{view} page {page + 1}: {len(page_results)} records "
                  f"(total: {len(all_records)})")
    
            if len(page_results) < PAGE_SIZE:
                break
    
            offset += PAGE_SIZE
    
        print(f"Total {view} records fetched: {len(all_records)}")
        return all_records
    
    def find_newest_time(events, history):
        newest = None
        for e in events:
            t = e.get('event.created_time')
            if t and (newest is None or t > newest):
                newest = t
        for h in history:
            t = h.get('history.created_time')
            if t and (newest is None or t > newest):
                newest = t
        return newest
    
    def load_state(bucket):
        try:
            blob = bucket.blob(STATE_KEY)
            if blob.exists():
                return json.loads(blob.download_as_text())
        except Exception as e:
            print(f"Warning: Could not load state: {e}")
        return {}
    
    def save_state(bucket, last_event_time_iso):
        try:
            state = {
                'last_event_time': last_event_time_iso,
                'last_run': datetime.now(timezone.utc).isoformat()
            }
            blob = bucket.blob(STATE_KEY)
            blob.upload_from_string(
                json.dumps(state, indent=2),
                content_type='application/json'
            )
            print(f"Saved state: last_event_time={last_event_time_iso}")
        except Exception as e:
            print(f"Warning: Could not save state: {e}")
    
  • requirements.txt:

    functions-framework==3.*
    google-cloud-storage==2.*
    urllib3>=2.0.0
    
  1. Klicken Sie auf Bereitstellen, um die Funktion zu speichern und bereitzustellen.
  2. Warten Sie, bis die Bereitstellung abgeschlossen ist (2–3 Minuten).

Cloud Scheduler-Job erstellen

  1. Rufen Sie in der GCP Console die Option Cloud Scheduler auf.
  2. Klicken Sie auf Job erstellen.
  3. Geben Sie die folgenden Konfigurationsdetails an:

    Einstellung Wert
    Name looker-audit-collector-hourly
    Region Wählen Sie dieselbe Region wie für die Cloud Run-Funktion aus.
    Frequenz 0 * * * * (stündlich zur vollen Stunde)
    Zeitzone Zeitzone auswählen (UTC empfohlen)
    Zieltyp Pub/Sub
    Thema looker-audit-trigger auswählen
    Inhalt der Nachricht {} (leeres JSON-Objekt)
  4. Klicken Sie auf Erstellen.

Integration testen

  1. Suchen Sie in der Cloud Scheduler-Konsole nach Ihrem Job (looker-audit-collector-hourly).
  2. Klicken Sie auf Ausführung erzwingen, um den Job manuell auszulösen.
  3. Warte einige Sekunden.
  4. Rufen Sie Cloud Run > Dienste auf.
  5. Klicken Sie auf looker-audit-collector.
  6. Klicken Sie auf den Tab Logs.
  7. Prüfen Sie, ob die Funktion erfolgreich ausgeführt wurde. Achte dabei auf Folgendes:

    Fetching events from YYYY-MM-DDTHH:MM:SS+00:00 to YYYY-MM-DDTHH:MM:SS+00:00
    Successfully obtained Looker API access token
    event page 1: X records (total: X)
    history page 1: X records (total: X)
    Wrote X records to gs://looker-audit-logs-gcs/looker-audit/looker_audit_YYYYMMDD_HHMMSS.ndjson
    Successfully processed X records (events: X, history: X)
    
  8. Rufen Sie Cloud Storage > Buckets auf.

  9. Klicken Sie auf looker-audit-logs-gcs.

  10. Rufen Sie den Ordner looker-audit/ auf.

  11. Prüfen Sie, ob eine neue .ndjson-Datei mit dem aktuellen Zeitstempel erstellt wurde.

Wenn Sie Fehler in den Logs sehen:

  • HTTP 401: Prüfen Sie, ob die Umgebungsvariablen LOOKER_CLIENT_ID und LOOKER_CLIENT_SECRET korrekt sind.
  • HTTP 403: Prüfen Sie, ob der Looker-Nutzer die Berechtigung see_system_activity hat.
  • HTTP 429: Ratenbegrenzung – Die Funktion beendet die Paginierung und wird beim nächsten geplanten Durchlauf fortgesetzt.
  • Fehlende Umgebungsvariablen: Prüfen Sie, ob alle erforderlichen Variablen in der Konfiguration der Cloud Run-Funktion festgelegt sind.

Google SecOps-Dienstkonto abrufen

  1. Rufen Sie die Einstellungen > Datenverwaltung > Feeds auf. Wenn Sie eine reine SIEM-Plattform verwenden, rufen Sie die Einstellungen > Feeds auf.
  2. Klicken Sie auf Neuen Feed hinzufügen.
  3. Klicken Sie auf Einzelnen Feed konfigurieren.
  4. Geben Sie im Feld Feedname einen Namen für den Feed ein, z. B. Looker Audit Logs GCS.
  5. Wählen Sie Google Cloud Storage V2 als Quelltyp aus.
  6. Wählen Sie Looker-Audit als Logtyp aus.
  7. Klicken Sie auf Dienstkonto abrufen. Eine eindeutige E-Mail-Adresse für das Dienstkonto wird angezeigt, z. B.:

    chronicle-12345678@chronicle-gcp-prod.iam.gserviceaccount.com
    
  8. Kopieren Sie diese E-Mail-Adresse, um sie im nächsten Schritt zu verwenden.

  9. Klicken Sie auf Weiter.

  10. Geben Sie Werte für die folgenden Eingabeparameter an:

    • Storage-Bucket-URL: Geben Sie den GCS-Bucket-URI mit dem Präfixpfad ein:

      gs://looker-audit-logs-gcs/looker-audit/
      
    • Option zum Löschen der Quelle: Wählen Sie die gewünschte Löschoption aus:

      • Nie: Nach Übertragungen werden keine Dateien gelöscht (empfohlen für Tests).
      • Übertragene Dateien löschen: Dateien werden nach erfolgreicher Übertragung gelöscht.
      • Übertragene Dateien und leere Verzeichnisse löschen: Dateien und leere Verzeichnisse werden nach erfolgreicher Übertragung gelöscht.

    • Maximales Dateialter: Dateien einschließen, die in den letzten Tagen geändert wurden (Standardwert: 180 Tage)

    • Asset-Namespace: Der Asset-Namespace

    • Labels für Datenaufnahme: Das Label, das auf die Ereignisse aus diesem Feed angewendet werden soll.

  11. Klicken Sie auf Weiter.

  12. Prüfen Sie die neue Feedkonfiguration auf dem Bildschirm Abschließen und klicken Sie dann auf Senden.

Dem Google SecOps-Dienstkonto IAM-Berechtigungen gewähren

  1. Rufen Sie Cloud Storage > Buckets auf.
  2. Klicken Sie auf looker-audit-logs-gcs.
  3. Wechseln Sie zum Tab Berechtigungen.
  4. Klicken Sie auf Zugriff erlauben.
  5. Geben Sie die folgenden Konfigurationsdetails an:
    • Hauptkonten hinzufügen: Fügen Sie die E‑Mail-Adresse des Google SecOps-Dienstkontos ein.
    • Rollen zuweisen: Wählen Sie Storage Object Viewer aus.
  6. Klicken Sie auf Speichern.

Option B: Aufnahme mit Amazon S3 konfigurieren

Bei dieser Option wird eine AWS Lambda-Funktion verwendet, um die Looker API nach Audit-Ereignissen für Systemaktivitäten abzufragen und diese in einen S3-Bucket zu schreiben, damit sie von Google SecOps aufgenommen werden können.

AWS S3-Bucket und IAM für Google SecOps konfigurieren

  1. Erstellen Sie einen Amazon S3-Bucket gemäß diesem Nutzerhandbuch: Bucket erstellen.
  2. Speichern Sie den Namen und die Region des Buckets zur späteren Verwendung (z. B. looker-audit-logs).
  3. Erstellen Sie einen Nutzer gemäß diesem Nutzerhandbuch: IAM-Nutzer erstellen.
  4. Wählen Sie den erstellten Nutzer aus.
  5. Wählen Sie den Tab Sicherheitsanmeldedaten aus.
  6. Klicken Sie im Bereich Access Keys (Zugriffsschlüssel) auf Create Access Key (Zugriffsschlüssel erstellen).
  7. Wählen Sie Drittanbieterdienst als Anwendungsfall aus.
  8. Klicken Sie auf Weiter.
  9. Optional: Fügen Sie ein Beschreibungs-Tag hinzu.
  10. Klicken Sie auf Zugriffsschlüssel erstellen.
  11. Klicken Sie auf CSV-Datei herunterladen, um den Zugriffsschlüssel und den geheimen Zugriffsschlüssel zur späteren Verwendung zu speichern.
  12. Klicken Sie auf Fertig.
  13. Wählen Sie den Tab Berechtigungen aus.
  14. Klicken Sie im Bereich Berechtigungsrichtlinien auf Berechtigungen hinzufügen.
  15. Wählen Sie Berechtigungen hinzufügen aus.
  16. Wählen Sie Richtlinien direkt anhängen aus.
  17. Suchen Sie nach der Richtlinie AmazonS3FullAccess.
  18. Wählen Sie die Richtlinie aus.
  19. Klicken Sie auf Weiter.
  20. Klicken Sie auf Berechtigungen hinzufügen.

IAM-Richtlinie und -Rolle für S3-Uploads konfigurieren

  1. Rufen Sie in der AWS-Konsole IAM > Richtlinien > Richtlinie erstellen > Tab „JSON“ auf.
  2. Kopieren Sie die folgende Richtlinie und fügen Sie sie ein.
  3. Richtlinien-JSON (ersetzen Sie looker-audit-logs, wenn Sie einen anderen Bucket-Namen eingegeben haben):

    {
            "Version": "2012-10-17",
            "Statement": [
                    {
                            "Sid": "AllowPutObjects",
                            "Effect": "Allow",
                            "Action": "s3:PutObject",
                            "Resource": "arn:aws:s3:::looker-audit-logs/*"
                    },
                    {
                            "Sid": "AllowGetStateObject",
                            "Effect": "Allow",
                            "Action": "s3:GetObject",
                            "Resource": "arn:aws:s3:::looker-audit-logs/looker-audit/state.json"
                    }
            ]
    }
    
  4. Klicken Sie auf Weiter > Richtlinie erstellen.

  5. Gehen Sie zu IAM > Roles > Create role > AWS service > Lambda.

  6. Hängen Sie die neu erstellte Richtlinie an.

  7. Geben Sie der Rolle den Namen LookerAuditCollectorRole und klicken Sie auf Rolle erstellen.

Lambda-Funktion erstellen

  1. Rufen Sie in der AWS Console Lambda > Functions > Create function auf.
  2. Klicken Sie auf Von Grund auf neu erstellen.
  3. Geben Sie die folgenden Konfigurationsdetails an:

    Einstellung Wert
    Name LookerAuditCollector
    Laufzeit Python 3.13
    Architektur x86_64
    Ausführungsrolle LookerAuditCollectorRole
  4. Nachdem die Funktion erstellt wurde, öffnen Sie den Tab Code, löschen Sie den Stub und fügen Sie den folgenden Code ein (LookerAuditCollector.py).

    import urllib3
    import json
    import boto3
    import os
    from datetime import datetime, timezone, timedelta
    import logging
    import urllib.parse
    
    logger = logging.getLogger()
    logger.setLevel(logging.INFO)
    
    http = urllib3.PoolManager(
        timeout=urllib3.Timeout(connect=10.0, read=60.0),
        retries=False,
    )
    s3 = boto3.client('s3')
    
    BUCKET = os.environ['S3_BUCKET']
    PREFIX = os.environ['S3_PREFIX']
    STATE_KEY = os.environ['STATE_KEY']
    LOOKER_BASE_URL = os.environ['LOOKER_BASE_URL'].rstrip('/')
    CLIENT_ID = os.environ['LOOKER_CLIENT_ID']
    CLIENT_SECRET = os.environ['LOOKER_CLIENT_SECRET']
    LOOKBACK_HOURS = int(os.environ.get('LOOKBACK_HOURS', '24'))
    PAGE_SIZE = int(os.environ.get('PAGE_SIZE', '5000'))
    MAX_PAGES = int(os.environ.get('MAX_PAGES', '20'))
    
    def lambda_handler(event, context):
        try:
            state = load_state()
            now = datetime.now(timezone.utc)
    
            if state and state.get('last_event_time'):
                try:
                    last_time = datetime.fromisoformat(
                        state['last_event_time'].replace('Z', '+00:00')
                    )
                    last_time = last_time - timedelta(minutes=2)
                except Exception as e:
                    logger.warning(f"Could not parse last_event_time: {e}")
                    last_time = now - timedelta(hours=LOOKBACK_HOURS)
            else:
                last_time = now - timedelta(hours=LOOKBACK_HOURS)
    
            logger.info(f"Fetching events from {last_time.isoformat()} to {now.isoformat()}")
    
            token = get_access_token()
    
            events = fetch_events(token, last_time, now)
            history = fetch_history(token, last_time, now)
    
            all_records = []
            for e in events:
                e['_looker_record_type'] = 'event'
                all_records.append(e)
            for h in history:
                h['_looker_record_type'] = 'history'
                all_records.append(h)
    
            if not all_records:
                logger.info("No new records found.")
                save_state(now.isoformat())
                return {'statusCode': 200, 'body': json.dumps({'events': 0})}
    
            timestamp = now.strftime('%Y%m%d_%H%M%S')
            object_key = f"{PREFIX}/looker_audit_{timestamp}.ndjson"
    
            ndjson = '\n'.join(
                [json.dumps(r, ensure_ascii=False, default=str) for r in all_records]
            ) + '\n'
    
            s3.put_object(
                Bucket=BUCKET,
                Key=object_key,
                Body=ndjson.encode('utf-8'),
                ContentType='application/x-ndjson'
            )
    
            logger.info(f"Wrote {len(all_records)} records to s3://{BUCKET}/{object_key}")
    
            newest_time = find_newest_time(events, history)
            save_state(newest_time if newest_time else now.isoformat())
    
            return {
                'statusCode': 200,
                'body': json.dumps({
                    'events': len(events),
                    'history': len(history),
                    'total': len(all_records)
                })
            }
    
        except Exception as e:
            logger.error(f"Lambda execution failed: {str(e)}")
            raise
    
    def get_access_token():
        url = f"{LOOKER_BASE_URL}/api/4.0/login"
        encoded_body = urllib.parse.urlencode({
            'client_id': CLIENT_ID,
            'client_secret': CLIENT_SECRET
        }).encode('utf-8')
    
        response = http.request(
            'POST', url,
            body=encoded_body,
            headers={'Content-Type': 'application/x-www-form-urlencoded'}
        )
    
        if response.status != 200:
            raise Exception(
                f"Login failed with status {response.status}: "
                f"{response.data.decode('utf-8')}"
            )
    
        data = json.loads(response.data.decode('utf-8'))
        token = data.get('access_token')
        if not token:
            raise Exception("No access_token in login response")
    
        logger.info("Successfully obtained Looker API access token")
        return token
    
    def fetch_events(token, start_time, end_time):
        start_str = start_time.strftime('%Y-%m-%d %H:%M:%S')
        end_str = end_time.strftime('%Y-%m-%d %H:%M:%S')
    
        all_events = []
        offset = 0
    
        for page in range(MAX_PAGES):
            query_body = {
                "model": "system__activity",
                "view": "event",
                "fields": [
                    "event.id",
                    "event.name",
                    "event.category",
                    "event.created_time",
                    "event.is_api_call",
                    "event.is_admin",
                    "event.is_looker_employee",
                    "user.id",
                    "user.name",
                    "user.email"
                ],
                "filters": {
                    "event.created_time": f"{start_str} to {end_str}"
                },
                "sorts": ["event.created_time asc"],
                "limit": str(PAGE_SIZE),
                "offset": str(offset)
            }
    
            url = f"{LOOKER_BASE_URL}/api/4.0/queries/run/json"
            response = http.request(
                'POST', url,
                body=json.dumps(query_body).encode('utf-8'),
                headers={
                    'Authorization': f'token {token}',
                    'Content-Type': 'application/json'
                }
            )
    
            if response.status == 429:
                logger.warning("Rate limited on events query. Stopping pagination.")
                break
    
            if response.status != 200:
                logger.error(
                    f"Events query failed: {response.status} - "
                    f"{response.data.decode('utf-8')}"
                )
                break
    
            page_results = json.loads(response.data.decode('utf-8'))
    
            if not page_results:
                logger.info(f"Events: No more results at offset {offset}")
                break
    
            all_events.extend(page_results)
            logger.info(
                f"Events page {page + 1}: Retrieved {len(page_results)} records "
                f"(total: {len(all_events)})"
            )
    
            if len(page_results) < PAGE_SIZE:
                break
    
            offset += PAGE_SIZE
    
        logger.info(f"Total events fetched: {len(all_events)}")
        return all_events
    
    def fetch_history(token, start_time, end_time):
        start_str = start_time.strftime('%Y-%m-%d %H:%M:%S')
        end_str = end_time.strftime('%Y-%m-%d %H:%M:%S')
    
        all_history = []
        offset = 0
    
        for page in range(MAX_PAGES):
            query_body = {
                "model": "system__activity",
                "view": "history",
                "fields": [
                    "history.id",
                    "history.created_time",
                    "history.completed_time",
                    "history.status",
                    "history.source",
                    "history.issuer_source",
                    "history.runtime",
                    "history.message",
                    "query.id",
                    "query.model",
                    "query.view",
                    "user.id",
                    "user.name",
                    "user.email",
                    "dashboard.id",
                    "dashboard.title",
                    "look.id",
                    "look.title"
                ],
                "filters": {
                    "history.created_time": f"{start_str} to {end_str}"
                },
                "sorts": ["history.created_time asc"],
                "limit": str(PAGE_SIZE),
                "offset": str(offset)
            }
    
            url = f"{LOOKER_BASE_URL}/api/4.0/queries/run/json"
            response = http.request(
                'POST', url,
                body=json.dumps(query_body).encode('utf-8'),
                headers={
                    'Authorization': f'token {token}',
                    'Content-Type': 'application/json'
                }
            )
    
            if response.status == 429:
                logger.warning("Rate limited on history query. Stopping pagination.")
                break
    
            if response.status != 200:
                logger.error(
                    f"History query failed: {response.status} - "
                    f"{response.data.decode('utf-8')}"
                )
                break
    
            page_results = json.loads(response.data.decode('utf-8'))
    
            if not page_results:
                logger.info(f"History: No more results at offset {offset}")
                break
    
            all_history.extend(page_results)
            logger.info(
                f"History page {page + 1}: Retrieved {len(page_results)} records "
                f"(total: {len(all_history)})"
            )
    
            if len(page_results) < PAGE_SIZE:
                break
    
            offset += PAGE_SIZE
    
        logger.info(f"Total history records fetched: {len(all_history)}")
        return all_history
    
    def find_newest_time(events, history):
        newest = None
        for e in events:
            t = e.get('event.created_time')
            if t and (newest is None or t > newest):
                newest = t
        for h in history:
            t = h.get('history.created_time')
            if t and (newest is None or t > newest):
                newest = t
        return newest
    
    def load_state():
        try:
            obj = s3.get_object(Bucket=BUCKET, Key=STATE_KEY)
            return json.loads(obj['Body'].read().decode('utf-8'))
        except s3.exceptions.NoSuchKey:
            logger.info("No previous state found, starting fresh")
            return None
        except Exception as e:
            logger.warning(f"Could not load state: {e}")
            return None
    
    def save_state(last_event_time):
        state = {
            'last_event_time': last_event_time,
            'last_run': datetime.now(timezone.utc).isoformat()
        }
        s3.put_object(
            Bucket=BUCKET,
            Key=STATE_KEY,
            Body=json.dumps(state, indent=2).encode('utf-8'),
            ContentType='application/json'
        )
        logger.info(f"Saved state: last_event_time={last_event_time}")
    
  5. Gehen Sie zu Konfiguration > Umgebungsvariablen > Bearbeiten > Neue Umgebungsvariable hinzufügen.

  6. Geben Sie die unten aufgeführten Umgebungsvariablen ein und ersetzen Sie sie durch Ihre Werte.

Umgebungsvariablen

Schlüssel Beispielwert
S3_BUCKET looker-audit-logs
S3_PREFIX looker-audit/
STATE_KEY looker-audit/state.json
LOOKER_BASE_URL https://your-instance.cloud.looker.com
LOOKER_CLIENT_ID your-looker-client-id
LOOKER_CLIENT_SECRET your-looker-client-secret
LOOKBACK_HOURS 24
PAGE_SIZE 5000
MAX_PAGES 20
  1. Bleiben Sie nach dem Erstellen der Funktion auf der Seite oder öffnen Sie Lambda > Functions > Ihre-Funktion.
  2. Wählen Sie den Tab Konfiguration aus.
  3. Klicken Sie im Bereich Allgemeine Konfiguration auf Bearbeiten.
  4. Ändern Sie das Zeitlimit in 5 Minuten (300 Sekunden) und klicken Sie auf Speichern.

EventBridge-Zeitplan erstellen

  1. Gehen Sie zu Amazon EventBridge > Scheduler > Create schedule.
  2. Geben Sie die folgenden Konfigurationsdetails an:
    • Wiederkehrender Zeitplan: Rate (1 hour)
    • Ziel: Ihre Lambda-Funktion LookerAuditCollector
    • Name: LookerAuditCollector-1h
  3. Klicken Sie auf Zeitplan erstellen.

Feed in Google SecOps konfigurieren, um Looker-Audit-Logs aufzunehmen

  1. Rufen Sie die Einstellungen > Datenverwaltung > Feeds auf. Wenn Sie eine reine SIEM-Plattform verwenden, rufen Sie die Einstellungen > Feeds auf.
  2. Klicken Sie auf Neuen Feed hinzufügen.
  3. Klicken Sie auf der nächsten Seite auf Einzelnen Feed konfigurieren.
  4. Geben Sie einen eindeutigen Feednamen ein.
  5. Wählen Sie als Quelltyp Amazon S3 V2 aus.
  6. Wählen Sie Looker-Audit als Logtyp aus.
  7. Klicken Sie auf Weiter und dann auf Senden.
  8. Geben Sie Werte für die folgenden Felder an:

    • S3-URI: s3://looker-audit-logs/looker-audit/
    • Option zum Löschen der Quelle: Wählen Sie die gewünschte Löschoption aus.
    • Maximales Dateialter: Dateien einschließen, die in den letzten Tagen geändert wurden (Standardwert: 180 Tage)
    • Zugriffsschlüssel-ID: Nutzerzugriffsschlüssel mit Zugriff auf den S3-Bucket
    • Geheimer Zugriffsschlüssel: Der geheime Schlüssel des Nutzers mit Zugriff auf den S3-Bucket.
    • Asset-Namespace: Der Asset-Namespace
    • Labels für Datenaufnahme: Das Label, das auf die Ereignisse aus diesem Feed angewendet werden soll.
  9. Klicken Sie auf Weiter und dann auf Senden.

Datenreferenz für Looker-Systemaktivitäten

In der folgenden Tabelle werden die wichtigsten Daten aus Looker-Systemaktivitäts-Explores beschrieben, die durch diese Integration erfasst werden:

Erkunden Gesammelte Daten Kundenbindung
Ereignis Nutzerauthentifizierungsereignisse, Erstellung und Änderung von Inhalten, Berechtigungsänderungen, API-Aufrufe, geplante Bereitstellungsereignisse, Downloadereignisse 90 Tage (Standardeinstellung)
Verlauf Abfrageausführungsverlauf, Dashboard- und Look-Zugriff, Abfragelaufzeit und -status, Abfragequelle (UI, API, Zeitplan) 90 Tage (Standardeinstellung)

UDM-Zuordnungstabelle

Logfeld UDM-Zuordnung Logik
Link zum Bearbeiten der Gruppe additional.fields.Group_Edit_Link_label.value.string_value Wert direkt kopiert
Gruppen-ID additional.fields.Group_ID_label.value.string_value Wert direkt kopiert
Verlauf – Länge der letzten Ausführung in Sekunden additional.fields.History_Most_Recent_Run_Length_in_Seconds_label.value.string_value Wert direkt kopiert
Verlaufs-Slug additional.fields.History_Slug_label.value.string_value Wert direkt kopiert
Verlaufsquelle additional.fields.History_Source_label.value.string_value Wert direkt kopiert
Verlaufsstatus additional.fields.History_Status_label.value.string_value Wert direkt kopiert
Look Link additional.fields.Look_Link_label.value.string_value Wert direkt kopiert
Look-Titel additional.fields.Look_Title_label.value.string_value Wert direkt kopiert
Link zur Nutzerbearbeitung additional.fields.User_Edit_Link_label.value.string_value Wert direkt kopiert
Nutzer-Home-Ordner additional.fields.User_Home_Folder_label.value.string_value Wert direkt kopiert
dashboard.link additional.fields.dashboard_link_label.value.string_value Wert direkt kopiert
dashboard.title additional.fields.dashboard_title_label.value.string_value Wert direkt kopiert
history.source additional.fields.history_source_label.value.string_value Wert direkt kopiert
history.status additional.fields.history_status_label.value.string_value Wert direkt kopiert
history.id additional.fields.id_label.value.string_value In String umgewandelt
history.connection_name additional.fields.name_label.value.string_value Wert direkt kopiert
query.model additional.fields.query_model_label.value.string_value Wert direkt kopiert
query.view additional.fields.query_view_label.value.string_value Wert direkt kopiert
sql_text.text additional.fields.sql_text_text_label.value.string_value Wert direkt kopiert
Erstellungszeit des Verlaufs metadata.event_timestamp Wird im Format ISO8601, RFC 3339 oder yyyy-MM-dd HH:mm:ss geparst
has_principal_user metadata.event_type Wird auf „NETWORK_CONNECTION“ gesetzt, wenn „has_principal“ und „has_target“ wahr sind; auf „USER_UNCATEGORIZED“, wenn „has_principal_user“ wahr ist; auf „STATUS_UPDATE“, wenn „has_principal“ wahr ist; andernfalls auf „GENERIC_EVENT“
has_principal metadata.event_type
has_target metadata.event_type
E-Mail-Adresse des Nutzers principal.email Wert aus „User Email“, wenn nicht leer, andernfalls „user.email“
user.email principal.email
Gruppenname principal.group.group_display_name Wert direkt kopiert
Nutzer-ID principal.user.product_object_id Wert aus der User-ID, falls nicht leer, andernfalls user.id
user.id principal.user.product_object_id
Nutzername principal.user.userid Wert aus „Nutzername“, falls nicht leer, andernfalls „user.name“
nutzer.name principal.user.userid
Kevin Liu security_result.category_details Zusammengeführt mit „Kevin_Liu_label“, wenn Kevin Liu nicht leer ist, „History_ID_label“, wenn History ID nicht leer ist, „History_Created_Date_label“, wenn History Created Date nicht leer ist
Verlaufs-ID security_result.category_details
Erstellungsdatum des Verlaufs security_result.category_details
Look-Beschreibung security_result.description Wert direkt kopiert
Nutzername sortiert target.hostname Wert wird kopiert, wenn der Name des Entwicklungszweigs des Nutzers nicht leer ist
user.name principal.user.user_display_name Aus Änderungsprotokoll zugeordnet

Änderungsprotokoll

Änderungsprotokoll für diesen Parser ansehen

Benötigen Sie weitere Hilfe? Antworten von Community-Mitgliedern und Google SecOps-Experten erhalten