이 문서에서는 다양한 엔터프라이즈 시스템과의 상호작용을 오케스트레이션하는 에이전트형 AI 시스템의 대략적인 아키텍처를 제공합니다. 오케스트레이터 에이전트는 복잡한 프로세스를 자동화하고 최신 대화형 인터페이스를 통해 여러 엔터프라이즈 시스템에 대한 액세스를 통합합니다. 이러한 시스템은 상업용 서드 파티 애플리케이션이거나 독점 내부 시스템일 수 있습니다. 이 설계 접근 방식을 사용하면 포인트 투 포인트 시스템 통합이 필요하지 않으므로 운영자가 지속적인 컨텍스트 전환 (스위블 의자 처리)을 피할 수 있습니다.
이 문서의 주요 대상에는 클라우드에서 에이전트 기반 AI 애플리케이션을 빌드하고 관리하는 설계자, 개발자, 관리자가 포함됩니다. 이 문서에서는 사용자가 에이전트형 AI에 대한 기본적인 이해를 갖추고 있다고 가정합니다.
아키텍처
다음 다이어그램은 오케스트레이터 에이전트가 AI를 사용하여 여러 채널의 클라이언트 상호작용을 적절한 백엔드 시스템으로 라우팅하는 다중 계층 아키텍처를 보여줍니다.
아키텍처의 구성요소는 다음 레이어로 구성됩니다.
| 레이어 | 구성요소 |
|---|---|
| 상호작용 채널 | 예시 아키텍처에서 클라이언트는 다음 여러 채널을 통해 에이전트 AI 시스템과 상호작용합니다.
|
| 에이전트형 코어 | 아키텍처의 핵심 구성요소는 에이전트 개발 키트 (ADK)를 사용하여 빌드되고 Cloud Run에 배포되는 오케스트레이터 에이전트입니다. 오케스트레이터는 멀티 에이전트 시스템을 관리합니다. 이 서버리스 플랫폼은 에이전트의 REST API에 Identity and Access Management (IAM)를 사용하여 확장성과 액세스 제어를 제공합니다. 여러 단계로 구성된 작업 전반에서 상태를 유지하기 위해 에이전트는 내장 ADK 지원을 사용하여 Vertex AI 세션 서비스 또는 Cloud Storage에 상태 데이터를 유지합니다. |
| 백엔드 시스템과의 표준화된 통합 | 에이전트와 백엔드 시스템 간의 통신을 위해 아키텍처는 Cloud Run에 배포된 모델 컨텍스트 프로토콜 (MCP) 서버를 사용합니다.
각 MCP 서버는 특정 백엔드 시스템의 API를 표준화된 도구 집합으로 노출합니다. MCP 서버는 에이전트를 백엔드 시스템에서 격리하는 부패 방지 레이어를 형성합니다. 이 접근 방식은 에이전트와 백엔드 시스템 간의 긴밀한 결합을 방지하는 데 도움이 됩니다. 에이전트의 로직을 간소화하고 에이전트와 독립적으로 백엔드 시스템을 현대화할 수 있습니다. |
| 백엔드 시스템 | 예시 아키텍처에서 AI 에이전트는 다음 백엔드 시스템에 대한 액세스를 오케스트레이션합니다.
|
사용 제품
이 예시 아키텍처에는 다음과 같은 Google Cloud 제품이 사용됩니다.
- Vertex AI: ML 모델 및 AI 애플리케이션을 학습 및 배포하고 AI 기반 애플리케이션에서 사용하도록 LLM을 맞춤설정할 수 있게 해주는 ML 플랫폼입니다.
- Cloud Run: Google의 확장 가능한 인프라에서 직접 컨테이너를 실행할 수 있게 해주는 서버리스 컴퓨팅 플랫폼입니다.
- Pub/Sub: 메시지 생성 서비스를 메시지 처리 서비스와 분리하는 비동기식의 확장 가능한 메시징 서비스입니다.
- Gemini Enterprise: 엔터프라이즈 내에서 AI 에이전트를 배포하고 관리할 수 있는 완전 관리형 보안 플랫폼입니다.
- Gemini: Google에서 개발한 멀티모달 AI 모델 제품군입니다.
- Cloud Storage: 다양한 데이터 유형에 적합한 저비용, 무제한 객체 스토어입니다. Google Cloud내부 및 외부에서 데이터에 액세스할 수 있고 중복성을 위해 여러 위치에 복제됩니다.
- Cloud SQL: Google Cloud에서 MySQL, PostgreSQL, SQL Server 데이터베이스를 프로비저닝, 운영, 관리할 수 있는 완전 관리형 관계형 데이터베이스 서비스입니다.
사용 사례
이 아키텍처는 다음 사용 사례에 유용합니다.
- 서로 다른 외부 및 내부 애플리케이션 간의 스위블 의자 처리를 자동화합니다.
- 대규모 이전 없이 여러 기존 시스템을 위한 통합 인터페이스를 만드세요.
- 기존 비즈니스 프로세스에 지능형 대화 기능을 추가하세요.
- 이벤트 기반 기능을 사용하여 애플리케이션을 점진적으로 현대화하세요.
이 아키텍처는 다음과 같은 이점을 제공합니다.
- 생산성: 반복적인 작업을 자동화하여 인적 오류를 줄이므로 팀이 부가가치 작업에 집중할 수 있습니다.
- 확장성: 이벤트 기반 접근 방식을 사용하여 서비스를 독립적으로 개발, 배포, 확장합니다.
- 향상된 사용자 환경: 복잡한 비즈니스 프로세스를 통합하는 최신 유연한 인터페이스를 빌드합니다.
- 미래 지향적 통합: MCP 서버를 사용하여 백엔드 시스템과의 통합을 표준화하여 백엔드 시스템을 독립적으로 교체하고 업그레이드할 수 있습니다.
설계 고려사항
프로덕션에 이 아키텍처를 구현하려면 다음 권장사항을 고려하세요.
- 보안: Cloud Run 서비스의 경우 최소 권한 원칙에 따라 권한이 있는 전용 IAM 서비스 계정을 사용합니다. 인증된 호출자에 대한 액세스를 제한하도록 Cloud Run 수신 컨트롤을 구성하여 에이전트의 API를 보호합니다.
- 관측 가능성: 분산 시스템에서는 로깅과 추적이 문제 해결에 매우 중요합니다. 전체 에이전트 워크플로를 파악하려면 서비스가 Cloud Logging에 구조화된 로그를 쓰고 Cloud Trace에 트레이스를 내보내도록 계측하세요.
- 성능: Cloud Run은 수요에 따라 자동으로 확장되며 부하가 없으면 0으로 축소됩니다. 지연 시간에 민감한 애플리케이션의 경우 최소 인스턴스 수를 구성하여 콜드 스타트를 최소화할 수 있습니다.
- 배포 자동화: Terraform과 같은 코드형 인프라 (IaC) 도구를 사용하여 리소스 프로비저닝 및 관리를 자동화합니다. IaC는 개발, 스테이징, 프로덕션 전반에서 반복 가능하고 감사 가능한 배포를 보장하는 데 도움이 됩니다.
- 거버넌스: App Design Center를 사용하여 애플리케이션 인프라의 설계 및 배포를 간소화합니다. App Design Center를 사용하여 조직의 거버넌스 규칙과 권장사항을 통합하는 템플릿을 정의할 수 있습니다.
다음 단계
- (Codelab) Cloud Run에 보안 MCP 서버 배포
- (Codelab) Cloud Run에서 MCP 서버를 사용하는 에이전트 빌드 및 배포
- (Codelab) 이벤트를 사용하여 에이전트 AI 애플리케이션을 비동기적으로 호출합니다.
- (Google Skills 과정) ADK로 지능형 에이전트 빌드
- (코드 샘플) GitHub에서 ADK로 에이전트를 빌드하는 데 사용할 수 있는 코드 샘플을 자세히 알아보세요.
- Google Cloud에서 AI 및 ML 워크로드와 관련된 아키텍처 원칙 및 권장사항에 대한 개요는 Well-Architected Framework의 AI 및 ML 관점을 참조하세요.
참여자
저자: 케이시 웨스트 | 아키텍처 애드보킷, Google Cloud
기타 참여자:
- Amina Mansour | Cloud Platform 평가팀 책임자
- 저자: 쿠마르 다나고팔 | 크로스 프로덕트 솔루션 개발자
- 레오니드 얀쿨린 | 개발자 관계 엔지니어