GDC 에어 갭 적용 솔루션 개요

Google Distributed Cloud (GDC) 에어 갭 솔루션 가이드는 즉시 사용 가능한 제품 기능과 프로덕션에 즉시 사용 가능한 엔터프라이즈 아키텍처 간의 격차를 해소합니다. 이 가이드에서는 플랫폼 관리자와 애플리케이션 운영자에게 GDC 에어 갭 환경에서 중요한 워크로드를 실행하기 위한 개념적 프레임워크, 참조 아키텍처, 실용적인 구현 단계를 제공합니다.

솔루션 가이드는 성능, 보안, 데이터 주권에 대한 엄격한 요구사항을 준수합니다.

문서 유형

솔루션은 세 가지 보완 문서 유형으로 문서화됩니다.

  • 참조 아키텍처: 솔루션 배포를 위한 설계 원칙, 시스템 토폴로지, 구성요소 상호작용, 보안 제어를 간략하게 설명하는 아키텍처 청사진입니다.
  • 참조 구현: GDC 클러스터에서 인프라, 종속 항목, 소프트웨어 배포를 설치, 구성, 확인하는 단계별 안내입니다.
  • 사용자 가이드: 실용적인 관리, 서비스 구성, 모니터링, 확장, 지속적인 유지보수를 다루는 2일 차 운영 가이드입니다.

사용 가능한 솔루션

다음 섹션에서는 Google Cloud 아키텍처 센터와 일치하는 기술 도메인별로 정리된 GDC 에어 갭에 사용할 수 있는 솔루션 가이드를 보여줍니다.

AI 및 머신러닝

  • AI Gateway
    • 참조 아키텍처: 대규모 언어 모델 (LLM)을 위한 중앙 집중식 라우팅, 프로토콜 중재, 트래픽 관리
    • Envoy
      • 참조 구현: 표준 클러스터에 Envoy 게이트웨이 및 Envoy 에이전트 라우터를 배포합니다.
      • 본문 기반 라우팅: 요청 페이로드 검사 및 콘텐츠 기반 모델 라우팅을 구성합니다.
  • Elastic Stack
    • 참조 아키텍처: Elastic Stack을 배포하고 LLM 서비스와 통합하여 Elastic의 생성형 AI 기능을 사용 설정하는 아키텍처입니다.
    • 참조 구현: Elastic Stack을 배포하고 LLM 서비스와 통합하여 Elastic의 생성형 AI 기능을 평가합니다.
  • 개방형 가중치 모델
    • 참조 아키텍처: 개방형 가중치 대규모 언어 모델을 배포하고 서빙하기 위한 아키텍처입니다.
    • Ollama
      • 참조 구현: Ollama를 배포하여 표준 클러스터에서 가중치 공개 모델을 서빙합니다.
      • Gemma 모델: Ollama를 사용하여 Gemma 4 모델을 서빙합니다. 한 가이드에서 모델과 GPU 옵션을 선택합니다.
    • vLLM
      • 참조 구현: vLLM을 배포하여 GPU가 있는 표준 클러스터에서 높은 처리량의 모델 추론을 서빙합니다.
      • Gemma 모델: vLLM을 사용하여 Gemma 4 모델을 서빙합니다. 한 가이드에서 모델과 GPU 옵션을 선택합니다.
      • Mistral 모델: vLLM을 사용하여 Mistral 7B, Mistral NeMo 12B, Mistral Small 3.2 24B, Ministral 8B, Mixtral 8x7B 또는 Magistral Small 1.2를 서빙합니다. 한 가이드에서 모델과 GPU 옵션을 선택합니다.
    • Open WebUI: Ollama 및 vLLM에서 제공하는 모델과 상호작용하도록 Open WebUI를 배포하고 구성합니다.

데이터베이스

네트워킹

  • 자체 관리형 레이어 7 부하 분산
    • 참조 아키텍처: 애플리케이션 인그레스 라우팅 및 TLS 종료를 위한 아키텍처입니다.
    • HAProxy 참조 구현: 높은 처리량의 레이어 7 트래픽 라우팅을 위해 HAProxy를 배포하고 조정합니다.
    • NGINX 참조 구현: NGINX 리버스 프록시 서비스를 배포하고 구성합니다.

보안 및 IAM

  • Keyfactor EJBCA
    • 참조 아키텍처: 공개 키 인프라 (PKI) 및 인증 기관 아키텍처
    • 참조 구현: 엔터프라이즈 인증서 수명 주기 관리를 위해 Keyfactor EJBCA를 배포합니다.