Duo 관리자 로그 수집
이 문서에서는 Google Cloud Storage를 사용하여 Duo 관리자 로그를 Google Security Operations로 수집하는 방법을 설명합니다. 파서는 로그 (JSON 형식)에서 필드를 추출하여 통합 데이터 모델 (UDM)에 매핑합니다. 다양한 Duo 작업 유형 (로그인, 사용자 관리, 그룹 관리)을 다르게 처리하여 사용자 세부정보, 인증 요소, 보안 결과를 비롯한 작업 및 사용 가능한 데이터를 기반으로 관련 UDM 필드를 채웁니다. 또한 IP 주소 병합, 타임스탬프 변환, 오류 처리와 같은 데이터 변환도 실행합니다.
시작하기 전에
다음 기본 요건이 충족되었는지 확인합니다.
- Google SecOps 인스턴스
- Cloud Storage API가 사용 설정된 GCP 프로젝트
- GCS 버킷을 만들고 관리할 수 있는 권한
- GCS 버킷의 IAM 정책을 관리할 수 있는 권한
- Cloud Run 함수, Pub/Sub 주제, Cloud Scheduler 작업을 만들 수 있는 권한
- Duo 테넌트에 대한 권한 액세스 (Admin API 애플리케이션)
Duo Admin API 애플리케이션 구성
- Duo 관리자 패널에 로그인합니다.
- 애플리케이션 > 애플리케이션 카탈로그로 이동합니다.
- Admin API 애플리케이션 추가
- 다음 값을 기록합니다.
- 통합 키 (ikey)
- 보안 비밀 키 (skey)
- API 호스트 이름 (예:
api-XXXXXXXX.duosecurity.com)
- 권한에서 읽기 로그 권한 부여 (관리자 로그 읽기)를 사용 설정합니다.
- 애플리케이션을 저장합니다.
Google Cloud Storage 버킷 만들기
- Google Cloud Console로 이동합니다.
- 프로젝트를 선택하거나 새 프로젝트를 만듭니다.
- 탐색 메뉴에서 Cloud Storage> 버킷으로 이동합니다.
- 버킷 만들기를 클릭합니다.
다음 구성 세부정보를 제공합니다.
설정 값 버킷 이름 지정 전역적으로 고유한 이름 (예: duo-admin-logs)을 입력합니다.위치 유형 필요에 따라 선택 (리전, 이중 리전, 멀티 리전) 위치 위치를 선택합니다 (예: us-central1).스토리지 클래스 Standard (자주 액세스하는 로그에 권장) 액세스 제어 균일 (권장) 보호 도구 선택사항: 객체 버전 관리 또는 보관 정책 사용 설정 만들기를 클릭합니다.
Cloud Run 함수의 서비스 계정 만들기
Cloud Run 함수에는 GCS 버킷에 쓸 수 있는 권한이 있는 서비스 계정이 필요합니다.
서비스 계정 만들기
- GCP 콘솔에서 IAM 및 관리자 > 서비스 계정으로 이동합니다.
- 서비스 계정 만들기를 클릭합니다.
- 다음 구성 세부정보를 제공합니다.
- 서비스 계정 이름:
duo-admin-collector-sa을 입력합니다. - 서비스 계정 설명:
Service account for Cloud Run function to collect Duo administrator logs을 입력합니다.
- 서비스 계정 이름:
- 만들고 계속하기를 클릭합니다.
- 이 서비스 계정에 프로젝트에 대한 액세스 권한 부여 섹션에서 다음 단계를 따르세요.
- 역할 선택을 클릭합니다.
- 스토리지 객체 관리자를 검색하여 선택합니다.
- + 다른 역할 추가를 클릭합니다.
- Cloud Run 호출자를 검색하여 선택합니다.
- + 다른 역할 추가를 클릭합니다.
- Cloud Functions 호출자를 검색하여 선택합니다.
- 계속을 클릭합니다.
- 완료를 클릭합니다.
이러한 역할은 다음 작업에 필요합니다.
- 스토리지 객체 관리자: GCS 버킷에 로그를 쓰고 상태 파일을 관리합니다.
- Cloud Run 호출자: Pub/Sub가 함수를 호출하도록 허용
- Cloud Functions 호출자: 함수 호출 허용
GCS 버킷에 대한 IAM 권한 부여
GCS 버킷에 대한 쓰기 권한을 서비스 계정에 부여합니다.
- Cloud Storage> 버킷으로 이동합니다.
- 버킷 이름을 클릭합니다.
- 권한 탭으로 이동합니다.
- 액세스 권한 부여를 클릭합니다.
- 다음 구성 세부정보를 제공합니다.
- 주 구성원 추가: 서비스 계정 이메일을 입력합니다.
- 역할 할당: 스토리지 객체 관리자를 선택합니다.
- 저장을 클릭합니다.
게시/구독 주제 만들기
Cloud Scheduler가 게시하고 Cloud Run 함수가 구독할 Pub/Sub 주제를 만듭니다.
- GCP Console에서 Pub/Sub > 주제로 이동합니다.
- 주제 만들기를 클릭합니다.
- 다음 구성 세부정보를 제공합니다.
- 주제 ID:
duo-admin-trigger를 입력합니다. - 다른 설정은 기본값으로 둡니다.
- 주제 ID:
- 만들기를 클릭합니다.
로그를 수집하는 Cloud Run 함수 만들기
Cloud Run 함수는 Cloud Scheduler의 Pub/Sub 메시지에 의해 트리거되어 Duo Admin API에서 로그를 가져오고 이를 GCS에 기록합니다.
- GCP 콘솔에서 Cloud Run으로 이동합니다.
- 서비스 만들기를 클릭합니다.
- 함수를 선택합니다 (인라인 편집기를 사용하여 함수 만들기).
구성 섹션에서 다음 구성 세부정보를 제공합니다.
설정 값 서비스 이름 duo-admin-collector리전 GCS 버킷과 일치하는 리전을 선택합니다 (예: us-central1).런타임 Python 3.12 이상 선택 트리거 (선택사항) 섹션에서 다음을 수행합니다.
- + 트리거 추가를 클릭합니다.
- Cloud Pub/Sub를 선택합니다.
- Cloud Pub/Sub 주제 선택에서 주제 (
duo-admin-trigger)를 선택합니다. - 저장을 클릭합니다.
인증 섹션에서 다음을 구성합니다.
- 인증 필요를 선택합니다.
- ID 및 액세스 관리 (IAM)를 확인합니다.
아래로 스크롤하고 컨테이너, 네트워킹, 보안을 펼칩니다.
보안 탭으로 이동합니다.
- 서비스 계정: 서비스 계정 (
duo-admin-collector-sa)을 선택합니다.
- 서비스 계정: 서비스 계정 (
컨테이너 탭으로 이동합니다.
- 변수 및 보안 비밀을 클릭합니다.
- 각 환경 변수에 대해 + 변수 추가를 클릭합니다.
변수 이름 예시 값 GCS_BUCKETduo-admin-logsGCS_PREFIXduo/adminSTATE_KEYduo/admin/state.jsonDUO_IKEYDIXYZ...DUO_SKEY****************DUO_API_HOSTNAMEapi-XXXXXXXX.duosecurity.com변수 및 보안 비밀 탭에서 요청까지 아래로 스크롤합니다.
- 요청 제한 시간:
600초 (10분)를 입력합니다.
- 요청 제한 시간:
컨테이너의 설정 탭으로 이동합니다.
- 리소스 섹션에서 다음을 수행합니다.
- 메모리: 512MiB 이상을 선택합니다.
- CPU: 1을 선택합니다.
- 완료를 클릭합니다.
- 리소스 섹션에서 다음을 수행합니다.
실행 환경으로 스크롤합니다.
- 기본을 선택합니다 (권장).
버전 확장 섹션에서 다음을 수행합니다.
- 최소 인스턴스 수:
0를 입력합니다. - 최대 인스턴스 수:
100을 입력합니다 (또는 예상 부하에 따라 조정).
- 최소 인스턴스 수:
만들기를 클릭합니다.
서비스가 생성될 때까지 기다립니다 (1~2분).
서비스가 생성되면 인라인 코드 편집기가 자동으로 열립니다.
함수 코드 추가
- 함수 진입점에 main을 입력합니다.
인라인 코드 편집기에서 다음 두 파일을 만듭니다.
- 첫 번째 파일: main.py:
import functions_framework from google.cloud import storage import json import os import urllib3 from datetime import datetime, timezone import hmac import hashlib import base64 import email.utils import urllib.parse import time # Initialize HTTP client http = urllib3.PoolManager() # Initialize Storage client storage_client = storage.Client() @functions_framework.cloud_event def main(cloud_event): """ Cloud Run function triggered by Pub/Sub to fetch Duo Admin logs and write to GCS. Args: cloud_event: CloudEvent object containing Pub/Sub message """ # Get environment variables bucket_name = os.environ.get('GCS_BUCKET') prefix = os.environ.get('GCS_PREFIX', 'duo/admin') state_key = os.environ.get('STATE_KEY', 'duo/admin/state.json') # Duo API credentials duo_ikey = os.environ.get('DUO_IKEY') duo_skey = os.environ.get('DUO_SKEY') duo_api_hostname = os.environ.get('DUO_API_HOSTNAME', '').strip() if not all([bucket_name, duo_ikey, duo_skey, duo_api_hostname]): print('Error: Missing required environment variables') return try: # Get GCS bucket bucket = storage_client.bucket(bucket_name) # Load state (last processed timestamp) state = load_state(bucket, state_key) now = int(time.time()) mintime = state.get('mintime', now - 3600) print(f'Processing logs since {mintime}') # Fetch logs from Duo Admin API page = 0 total = 0 next_mintime = mintime max_seen_ts = mintime while True: page_num = 0 data = duo_api_request( duo_ikey, duo_skey, duo_api_hostname, 'GET', '/admin/v1/logs/administrator', {'mintime': mintime} ) # Write page to GCS write_page(bucket, prefix, data, now, page) page += 1 # Extract items resp = data.get('response') items = resp if isinstance(resp, list) else (resp.get('items') if isinstance(resp, dict) else []) items = items or [] if not items: break total += len(items) # Track the newest timestamp in this batch for it in items: ts = epoch_from_item(it) if ts and ts > max_seen_ts: max_seen_ts = ts # Duo returns only the 1000 earliest events; page by advancing mintime if len(items) >= 1000 and max_seen_ts >= mintime: mintime = max_seen_ts next_mintime = max_seen_ts continue else: break # Save checkpoint: newest seen ts, or "now" if nothing new if max_seen_ts > next_mintime: save_state(bucket, state_key, {'mintime': max_seen_ts}) next_state = max_seen_ts else: save_state(bucket, state_key, {'mintime': now}) next_state = now print(f'Successfully processed {total} events across {page} pages, next_mintime: {next_state}') except Exception as e: print(f'Error processing logs: {str(e)}') raise def load_state(bucket, key): """Load state from GCS.""" try: blob = bucket.blob(key) if blob.exists(): state_data = blob.download_as_text() return json.loads(state_data) except Exception as e: print(f'Warning: Could not load state: {str(e)}') return {} def save_state(bucket, key, state): """Save state to GCS.""" try: blob = bucket.blob(key) blob.upload_from_string( json.dumps(state), content_type='application/json' ) except Exception as e: print(f'Warning: Could not save state: {str(e)}') def write_page(bucket, prefix, payload, when, page): """Write a page of logs to GCS.""" try: timestamp_str = time.strftime('%Y/%m/%d', time.gmtime(when)) key = f"{prefix}/{timestamp_str}/duo-admin-{page:05d}.json" blob = bucket.blob(key) blob.upload_from_string( json.dumps(payload, separators=(',', ':')), content_type='application/json' ) print(f'Wrote page {page} to {key}') except Exception as e: print(f'Error writing page {page}: {str(e)}') raise def canon_params(params): """Canonicalize parameters for Duo API signature.""" parts = [] for k in sorted(params.keys()): v = params[k] if v is None: continue parts.append(f"{urllib.parse.quote(str(k), '~')}={urllib.parse.quote(str(v), '~')}") return "&".join(parts) def sign_request(method, host, path, params, ikey, skey): """Sign Duo API request.""" now = email.utils.formatdate() canon = "\n".join([ now, method.upper(), host.lower(), path, canon_params(params) ]) sig = hmac.new(skey.encode('utf-8'), canon.encode('utf-8'), hashlib.sha1).hexdigest() auth = base64.b64encode(f"{ikey}:{sig}".encode()).decode() return { 'Date': now, 'Authorization': f'Basic {auth}' } def duo_api_request(ikey, skey, host, method, path, params, timeout=60, max_retries=5): """Make a signed request to Duo Admin API with retry logic.""" assert host.startswith('api-') and host.endswith('.duosecurity.com'), \ "DUO_API_HOSTNAME must be like api-XXXXXXXX.duosecurity.com" qs = canon_params(params) url = f"https://{host}{path}" + (f"?{qs}" if qs else "") attempt = 0 backoff = 1.0 while True: headers = sign_request(method, host, path, params, ikey, skey) headers['Accept'] = 'application/json' try: response = http.request(method.upper(), url, headers=headers, timeout=timeout) return json.loads(response.data.decode('utf-8')) except urllib3.exceptions.HTTPError as e: # Retry on 429 or 5xx if hasattr(e, 'status') and (e.status == 429 or 500 <= e.status <= 599) and attempt < max_retries: time.sleep(backoff) attempt += 1 backoff *= 2 continue raise except Exception as e: if attempt < max_retries: time.sleep(backoff) attempt += 1 backoff *= 2 continue raise def epoch_from_item(item): """Extract epoch timestamp from log item.""" # Prefer numeric 'timestamp' (seconds); fallback to ISO8601 'ts' ts_num = item.get('timestamp') if isinstance(ts_num, (int, float)): return int(ts_num) ts_iso = item.get('ts') if isinstance(ts_iso, str): try: # Accept "...Z" or with offset return int(datetime.fromisoformat(ts_iso.replace('Z', '+00:00')).timestamp()) except Exception: return None return None- 두 번째 파일: requirements.txt:
functions-framework==3.* google-cloud-storage==2.* urllib3>=2.0.0배포를 클릭하여 함수를 저장하고 배포합니다.
배포가 완료될 때까지 기다립니다 (2~3분).
Cloud Scheduler 작업 만들기
Cloud Scheduler는 일정 간격으로 Pub/Sub 주제에 메시지를 게시하여 Cloud Run 함수를 트리거합니다.
- GCP Console에서 Cloud Scheduler로 이동합니다.
- 작업 만들기를 클릭합니다.
다음 구성 세부정보를 제공합니다.
설정 값 이름 duo-admin-collector-hourly리전 Cloud Run 함수와 동일한 리전 선택 주파수 0 * * * *(매시간 정각)시간대 시간대 선택 (UTC 권장) 타겟 유형 Pub/Sub 주제 주제 선택 ( duo-admin-trigger)메일 본문 {}(빈 JSON 객체)만들기를 클릭합니다.
일정 빈도 옵션
로그 볼륨 및 지연 시간 요구사항에 따라 빈도를 선택합니다.
빈도 크론 표현식 사용 사례 5분마다 */5 * * * *대용량, 저지연 15분마다 */15 * * * *검색량 보통 1시간마다 0 * * * *일반(권장) 6시간마다 0 */6 * * *양이 적은 일괄 처리 매일 0 0 * * *이전 데이터 수집
스케줄러 작업 테스트
- Cloud Scheduler 콘솔에서 작업을 찾습니다.
- 강제 실행을 클릭하여 수동으로 트리거합니다.
- 몇 초간 기다린 후 Cloud Run > 서비스 > duo-admin-collector > 로그로 이동합니다.
- 함수가 성공적으로 실행되었는지 확인합니다.
- GCS 버킷을 확인하여 로그가 작성되었는지 확인합니다.
Google SecOps 서비스 계정 가져오기
Google SecOps는 고유한 서비스 계정을 사용하여 GCS 버킷에서 데이터를 읽습니다. 이 서비스 계정에 버킷에 대한 액세스 권한을 부여해야 합니다.
서비스 계정 이메일 가져오기
- SIEM 설정> 피드로 이동합니다.
- 새 피드 추가를 클릭합니다.
- 단일 피드 구성을 클릭합니다.
- 피드 이름 필드에 피드 이름을 입력합니다(예:
Duo Administrator Logs). - 소스 유형으로 Google Cloud Storage V2를 선택합니다.
- 로그 유형으로 Duo 관리자 로그를 선택합니다.
서비스 계정 가져오기를 클릭합니다. 고유한 서비스 계정 이메일이 표시됩니다. 예를 들면 다음과 같습니다.
chronicle-12345678@chronicle-gcp-prod.iam.gserviceaccount.com다음 단계에서 사용할 수 있도록 이 이메일 주소를 복사합니다.
Google SecOps 서비스 계정에 IAM 권한 부여
Google SecOps 서비스 계정에는 GCS 버킷에 대한 스토리지 객체 뷰어 역할이 필요합니다.
- Cloud Storage> 버킷으로 이동합니다.
- 버킷 이름을 클릭합니다.
- 권한 탭으로 이동합니다.
- 액세스 권한 부여를 클릭합니다.
- 다음 구성 세부정보를 제공합니다.
- 주 구성원 추가: Google SecOps 서비스 계정 이메일을 붙여넣습니다.
- 역할 할당: 스토리지 객체 뷰어를 선택합니다.
저장을 클릭합니다.
Duo 관리자 로그를 수집하도록 Google SecOps에서 피드 구성
- SIEM 설정> 피드로 이동합니다.
- 새 피드 추가를 클릭합니다.
- 단일 피드 구성을 클릭합니다.
- 피드 이름 필드에 피드 이름을 입력합니다(예:
Duo Administrator Logs). - 소스 유형으로 Google Cloud Storage V2를 선택합니다.
- 로그 유형으로 Duo 관리자 로그를 선택합니다.
- 다음을 클릭합니다.
다음 입력 매개변수의 값을 지정합니다.
스토리지 버킷 URL: 다음 접두사 경로를 사용하여 GCS 버킷 URI를 입력합니다.
gs://duo-admin-logs/duo/admin/다음과 같이 바꿉니다.
duo-admin-logs: GCS 버킷 이름입니다.duo/admin: 로그가 저장되는 선택적 접두사/폴더 경로입니다 (루트의 경우 비워 둠).
예:
- 루트 버킷:
gs://company-logs/ - 접두사 사용:
gs://company-logs/duo-logs/ - 하위 폴더 사용:
gs://company-logs/duo/admin/
- 루트 버킷:
소스 삭제 옵션: 환경설정에 따라 삭제 옵션을 선택합니다.
- 삭제 안함: 전송 후 파일을 삭제하지 않습니다 (테스트에 권장).
- 전송된 파일 삭제: 전송이 완료되면 파일을 삭제합니다.
전송된 파일 및 빈 디렉터리 삭제: 전송이 완료되면 파일과 빈 디렉터리를 삭제합니다.
최대 파일 기간: 지난 일수 동안 수정된 파일을 포함합니다. 기본값은 180일입니다.
애셋 네임스페이스: 애셋 네임스페이스입니다.
수집 라벨: 이 피드의 이벤트에 적용할 라벨입니다.
다음을 클릭합니다.
확정 화면에서 새 피드 구성을 검토한 다음 제출을 클릭합니다.
UDM 매핑 테이블
| 로그 필드 | UDM 매핑 | 로직 |
|---|---|---|
| action | metadata.product_event_type | 원시 로그의 작업 필드 값입니다. |
| 내림차순 | metadata.description | 원시 로그의 설명 객체에 있는 desc 필드의 값입니다. |
| description._status | target.group.attribute.labels.value | 원시 로그의 설명 객체 내에 있는 _status 필드의 값입니다. 특히 그룹 관련 작업을 처리할 때 사용됩니다. 이 값은 'status'라는 해당 'key'가 있는 'labels' 배열 내에 배치됩니다. |
| description.desc | metadata.description | 원시 로그의 설명 객체에 있는 desc 필드의 값입니다. |
| description.email | target.user.email_addresses | 원시 로그의 설명 객체에 있는 이메일 필드의 값입니다. |
| description.error | security_result.summary | 원시 로그의 설명 객체에 있는 error 필드의 값입니다. |
| description.factor | extensions.auth.auth_details | 원시 로그의 설명 객체에 있는 factor 필드의 값입니다. |
| description.groups.0._status | target.group.attribute.labels.value | 원시 로그의 설명 객체 내 groups 배열의 첫 번째 요소에서 가져온 _status 필드의 값입니다. 이 값은 'status'라는 해당 'key'가 있는 'labels' 배열 내에 배치됩니다. |
| description.groups.0.name | target.group.group_display_name | 원시 로그의 설명 객체 내 그룹 배열의 첫 번째 요소에 있는 이름 필드의 값입니다. |
| description.ip_address | principal.ip | 원시 로그의 설명 객체에 있는 ip_address 필드의 값입니다. |
| description.name | target.group.group_display_name | 원시 로그의 설명 객체에서 가져온 이름 필드의 값입니다. |
| description.realname | target.user.user_display_name | 원시 로그의 설명 객체에 있는 realname 필드의 값입니다. |
| description.status | target.user.attribute.labels.value | 원시 로그의 설명 객체에 있는 상태 필드의 값입니다. 이 값은 'status'라는 해당 'key'가 있는 'labels' 배열 내에 배치됩니다. |
| description.uname | target.user.email_addresses 또는 target.user.userid | 원시 로그의 설명 객체에서 가져온 uname 필드의 값입니다. 이메일 주소 형식과 일치하면 email_addresses에 매핑되고, 그렇지 않으면 userid에 매핑됩니다. |
| 호스트 | principal.hostname | 원시 로그의 호스트 필드 값입니다. |
| isotimestamp | metadata.event_timestamp.seconds | 원시 로그의 isotimestamp 필드 값으로, 에포크 초로 변환됩니다. |
| 객체 | target.group.group_display_name | 원시 로그의 객체 필드 값입니다. |
| 타임스탬프 | metadata.event_timestamp.seconds | 원시 로그의 타임스탬프 필드 값입니다. |
| 사용자 이름 | target.user.userid 또는 principal.user.userid | 작업 필드에 'login'이 포함된 경우 값은 target.user.userid에 매핑됩니다. 그렇지 않으면 principal.user.userid에 매핑됩니다. |
| - | extensions.auth.mechanism | 작업 필드에 'login'이 포함된 경우 'USERNAME_PASSWORD'로 설정합니다. |
| - | metadata.event_type | 파서가 작업 필드를 기반으로 결정합니다. 가능한 값: USER_LOGIN, GROUP_CREATION, USER_UNCATEGORIZED, GROUP_DELETION, USER_CREATION, GROUP_MODIFICATION, GENERIC_EVENT |
| - | metadata.product_name | 항상 'DUO_ADMIN'으로 설정됩니다. |
| - | metadata.product_version | 항상 'MULTI-FACTOR_AUTHENTICATION'으로 설정됩니다. |
| - | metadata.vendor_name | 항상 'DUO_SECURITY'로 설정됩니다. |
| - | principal.user.user_role | eventtype 필드에 'admin'이 포함된 경우 'ADMINISTRATOR'로 설정됩니다. |
| - | security_result.action | 파서가 작업 필드를 기반으로 결정합니다. 작업 필드에 'error'가 포함된 경우 'BLOCK'으로 설정하고, 그렇지 않은 경우 'ALLOW'로 설정합니다. |
| - | target.group.attribute.labels.key | target.group.attribute.labels를 채울 때는 항상 'status'로 설정합니다. |
| - | target.user.attribute.labels.key | target.user.attribute.labels를 채울 때는 항상 'status'로 설정합니다. |
도움이 더 필요한가요? 커뮤니티 회원 및 Google SecOps 전문가에게 문의하여 답변을 받으세요.