이 문서에서는 AI를 사용하여 고객의 지원 질문에 대한 솔루션을 생성하는 애플리케이션의 대략적인 아키텍처를 제공합니다.
이 문서의 주요 대상에는 클라우드에서 생성형 AI 애플리케이션을 빌드하고 관리하는 설계자, 개발자, 관리자가 포함됩니다. 이 문서에서는 사용자가 생성형 AI를 기본적인 수준으로 이해하고 있다고 가정합니다.
이 문서의 배포 섹션에서는 AI 지원 고객 지원 사용 사례의 코드 샘플을 제공합니다.
아키텍처
다음 다이어그램은 의 AI 지원 지원 데스크 애플리케이션의 아키텍처를 보여줍니다 Google Cloud. 이 애플리케이션은 고객의 질문을 수신하고 기술 자료에서 관련 리소스를 검색한 후 질문에 대한 솔루션을 생성합니다. 이 아키텍처는 검색 증강 생성 (RAG) 접근 방식을 구현한 것입니다.
이 아키텍처의 애플리케이션은 Google Kubernetes Engine (GKE) 클러스터에 배포된 컨테이너화된 서비스로 구성됩니다. 이 아키텍처는 다음 흐름을 보여줍니다.
- 고객이 지원 데스크 애플리케이션에 질문을 제출합니다.
- 지원 데스크 애플리케이션이 고객의 질문을 기술 검색기 서비스에 전달합니다.
- 기술 검색기 서비스가 Vertex AI의 Gemini API에 프롬프트를 구성하고 전송하여 고객의 질문과 관련된 리소스를 검색합니다.
- Gemini가 Cloud Storage에 저장된 지원 기술 자료에서 관련 리소스를 식별합니다.
- Gemini가 관련 리소스의 ID를 기술 검색기 서비스에 반환합니다.
- 기술 검색기 서비스가 Cloud Storage에서 관련 리소스를 검색합니다.
- 기술 검색기 서비스가 고객의 질문과 관련 리소스를 솔루션 생성기 서비스에 전송합니다.
- 솔루션 생성기 서비스가 고객의 질문에 대한 자세한 솔루션을 생성하라는 프롬프트와 함께 리소스를 Vertex AI의 Gemini API에 전송합니다.
- Gemini가 단계별 안내 또는 동영상 둘러보기와 같은 솔루션을 생성합니다.
- 솔루션 생성기 서비스가 지원 데스크 애플리케이션을 통해 고객에게 솔루션을 제공합니다.
사용 제품
이 예시 아키텍처에는 다음과 같은 Google Cloud 제품이 사용됩니다.
- Google Kubernetes Engine (GKE): Google 인프라를 사용하여 컨테이너화된 애플리케이션을 대규모로 배포 및 운영하는 데 사용할 수 있는 Kubernetes 서비스입니다.
- Vertex AI: ML 모델 및 AI 애플리케이션을 학습 및 배포하고 AI 기반 애플리케이션에서 사용하도록 LLM을 맞춤설정할 수 있게 해주는 ML 플랫폼입니다.
- Cloud Storage: 다양한 데이터 유형에 적합한 저비용, 무제한 객체 스토어입니다. 내부 및 외부에서 데이터에 액세스할 수 있고 Google Cloud중복성을 위해 여러 위치에 복제됩니다.
배포
에서 AI 지원 고객 지원 애플리케이션을 실험하려면 Google Cloud다음 코드 샘플을 사용하세요.
다음 단계
- Gemini를 사용하여 고객 지원 에이전트를 빌드합니다.
- Dialogflow CX에서 플레이북, 흐름, 및 데이터 스토어를 사용하여 고객 지원 사용 사례를 위한 AI 에이전트를 빌드합니다.
- 생성형 AI 아키텍처 가이드를 자세히 살펴봅니다.
- 에서 AI 및 ML 워크로드와 관련된 아키텍처 원칙 및 권장사항에 대한 개요는 Google Cloud Well-Architected Framework의 AI 및 ML 관점 을 참조하세요.
- 그 밖의 참조 아키텍처, 다이어그램, 튜토리얼, 권장사항을 알아보려면 Cloud 아키텍처 센터를 확인하세요.
참여자
저자: 쿠마르 다나고팔 | 크로스 프로덕트 솔루션 개발자
기타 참여자:
- 아미나 만수르 | Cloud Platform 평가팀 책임자
- 메건 오키프 | 개발자 지원 엔지니어
- 사만다 헤 | 테크니컬 라이터
- 시르 메이르 라도르 | 개발자 관계 엔지니어링 관리자