데이터 파이프라인을 실행할 때 안전한 환경을 유지하고 규정 준수 요구사항을 충족하는 것은 중요한 과제입니다. Dataflow는 작업자를 실행하는 가상 머신 (VM)을 자동으로 강화하고 보호하여 이러한 문제를 해결합니다. 이를 통해 수동 작업 없이 데이터를 보호하고 보안 위험을 최소화할 수 있습니다.
Dataflow 작업자 VM 운영체제
Dataflow 작업자 VM은 Google에서 유지관리하는 강화된 버전의 Container-Optimized OS에서 실행됩니다. Container-Optimized OS는Google Cloud에서 컨테이너화된 워크로드를 안전하고 효율적으로 실행할 수 있도록 Google에서 설계하고 최적화했습니다.
Dataflow는 보안상의 이점 때문에 Container-Optimized OS를 Dataflow 작업자 VM의 기반으로 사용합니다.
- 최소 공격 노출 표면: Container-Optimized OS에는 컨테이너를 실행하는 데 필요한 최소 패키지 집합이 포함되어 있습니다. 이렇게 하면 범용 운영체제에 비해 잠재적인 공격 표면이 줄어듭니다.
- 보안 중심 설계: Container-Optimized OS는 보안을 핵심 원칙으로 하여 빌드됩니다. 필수 쓰기 가능 경로를 제외한 읽기 전용 파일 시스템, 잠긴 방화벽, 기타 기본적으로 보안이 적용된 구성이 있습니다.
- 정기적인 보안 업데이트: Google의 보안팀은 취약점을 지속적으로 모니터링하고 Container-Optimized OS 이미지에 적시에 패치와 업데이트를 제공합니다. Dataflow는 이러한 업데이트를 VM 이미지에 통합합니다.
- 관리형 환경: 완전 관리형 서비스인 Dataflow는 작업자 VM OS의 전체 수명 주기를 관리합니다. 이렇게 하면 모든 작업자 VM에서 일관성, 안정성, 보안 권장사항 적용을 보장할 수 있습니다.
Dataflow VM 이미지 강화 및 보안 관행
Container-Optimized OS의 고유한 보안 이점 외에도 Google은 Dataflow 작업자 VM 이미지에 추가적인 강화 및 보안 관행을 적용합니다.
- 취약점 스캔: Google은 업계 표준 CVE 피드와 통합된 내부 취약점 관리 시스템을 사용하여 Dataflow 소유 VM 이미지와 컨테이너 이미지에 알려진 취약점이 있는지 정기적으로 스캔합니다.
- 적시 패치: Google은 식별된 취약점을 분류하고 심각도에 따라 패치를 적용하여 정의된 서비스 수준 목표(SLO) 및 FedRAMP와 같은 규정 준수 프로그램을 준수합니다.
- 규정 준수: Dataflow는 FedRAMP 높음 인증을 획득하여 미국 연방 정부에서 요구하는 엄격한 보안 표준 및 관행을 준수함을 입증했습니다. 여기에는 취약점 관리 및 시스템 강화에 관한 컨트롤이 포함됩니다. 자세한 내용은 Google Cloud 규정 준수 제품을 참고하세요.
- 보안 게시판: 고객 조치가 필요한 심각한 취약점 (예: 장기 실행 스트리밍 파이프라인 업데이트)의 경우 Dataflow는 보안 게시판을 게시합니다.
맞춤 OS 이미지가 지원되지 않는 이유
관리형 서비스인 Dataflow는 기본 인프라 복잡성을 추상화합니다. 여기에는 운영체제가 포함됩니다. 이 접근 방식을 통해 Google은 고도로 최적화되고 안전하며 안정적인 서비스를 제공할 수 있습니다. 다음과 같은 이유로 Dataflow 작업자에서 맞춤 OS 이미지 (예: 사내 강화 Debian)를 사용할 수 없습니다.
- 관리 서비스 무결성: 커스텀 이미지를 사용하면 보안 위험이 발생할 수 있으며 Dataflow 서비스의 안정성과 성능이 저하될 수 있습니다.
- 직접 통합: Dataflow 구성요소는 네트워킹, 에이전트, 컨테이너 런타임을 비롯한 특정 Container-Optimized OS 환경과 직접 통합됩니다.
- 운영 복잡성: 다양한 맞춤 OS 이미지를 관리하고 지원하면 상당한 운영 오버헤드와 위험이 발생합니다.
- 보안 책임: 커스텀 이미지를 사용하면 OS 수준 보안 및 패치에 대한 책임이 혼동됩니다.
보안 책임 분담에 대한 자세한 내용은 Dataflow 공유 책임 모델을 참고하세요.
다음 단계
- Dataflow 보안 및 권한에 대해 알아봅니다.
- Container-Optimized OS 보안 자세히 알아보기
- Dataflow 보안 게시판을 확인하세요.