이 문서에서는 AI를 사용하여 고객의 지원 질문에 대한 솔루션을 생성하는 애플리케이션의 개략적인 아키텍처를 제공합니다.
이 문서의 주요 대상에는 클라우드에서 생성형 AI 애플리케이션을 빌드하고 관리하는 설계자, 개발자, 관리자가 포함됩니다. 이 문서에서는 생성형 AI에 대한 기본적인 이해가 있다고 가정합니다.
이 문서의 배포 섹션에서는 AI 지원 고객 지원 사용 사례의 코드 샘플을 제공합니다.
아키텍처
다음 다이어그램은 Google Cloud의 AI 지원 지원 데스크 애플리케이션의 아키텍처를 보여줍니다. 애플리케이션은 고객으로부터 질문을 받고, 기술 자료에서 관련 리소스를 검색한 다음, 질문에 대한 해결 방법을 생성합니다. 이 아키텍처는 검색 증강 생성 (RAG) 접근 방식을 구현한 것입니다.
이 아키텍처의 애플리케이션은 Google Kubernetes Engine (GKE) 클러스터에 배포된 컨테이너화된 서비스로 구성됩니다. 아키텍처는 다음 흐름을 보여줍니다.
- 고객이 지원 데스크 애플리케이션에 질문을 제출합니다.
- 지원 데스크 애플리케이션은 고객의 질문을 지식 검색 서비스에 전달합니다.
- 지식 검색기 서비스는 Vertex AI의 Gemini API에 프롬프트를 구성하고 전송하여 고객의 질문과 관련된 리소스를 검색합니다.
- Gemini는 Cloud Storage에 저장된 지원 기술 자료에서 관련 리소스를 식별합니다.
- Gemini는 관련 리소스의 ID를 지식 검색기 서비스에 반환합니다.
- 지식 검색 서비스는 Cloud Storage에서 관련 리소스를 가져옵니다.
- 지식 검색 서비스는 고객의 질문과 관련 리소스를 솔루션 생성기 서비스에 전송합니다.
- 솔루션 생성기 서비스는 고객의 질문에 대한 자세한 솔루션을 생성하라는 프롬프트와 함께 리소스를 Vertex AI의 Gemini API로 전송합니다.
- Gemini가 단계별 안내나 동영상 둘러보기와 같은 솔루션을 생성합니다.
- 솔루션 생성기 서비스는 지원 데스크 애플리케이션을 통해 고객에게 솔루션을 제공합니다.
사용 제품
이 예시 아키텍처에는 다음과 같은 Google Cloud 제품이 사용됩니다.
- Google Kubernetes Engine(GKE): Google 인프라를 사용하여 컨테이너화된 애플리케이션을 대규모로 배포 및 운영하는 데 사용할 수 있는 Kubernetes 서비스입니다.
- Vertex AI: ML 모델 및 AI 애플리케이션을 학습 및 배포하고 AI 기반 애플리케이션에서 사용하도록 LLM을 맞춤설정할 수 있게 해주는 ML 플랫폼입니다.
- Cloud Storage: 다양한 데이터 유형에 적합한 저비용, 무제한 객체 저장소입니다. Google Cloud내부 및 외부에서 데이터에 액세스할 수 있고 중복성을 위해 여러 위치에 복제됩니다.
배포
Google Cloud에서 AI 지원 고객 지원 애플리케이션을 실험하려면 다음 코드 샘플을 사용하세요.
다음 단계
- Gemini를 사용하여 고객 지원 에이전트 빌드
- Dialogflow CX에서 플레이북, 흐름, 데이터 스토어를 사용하여 고객 지원 사용 사례를 위한 AI 에이전트를 빌드합니다.
- 생성형 AI 아키텍처 가이드를 자세히 살펴보세요.
- Google Cloud에서 AI 및 ML 워크로드와 관련된 아키텍처 원칙 및 권장사항에 대한 개요는 Well-Architected Framework의 AI 및 ML 관점을 참조하세요.
- 그 밖의 참조 아키텍처, 다이어그램, 튜토리얼, 권장사항을 알아보려면 Cloud 아키텍처 센터를 확인하세요.
참여자
저자: 쿠마르 다나고팔 | 크로스 프로덕트 솔루션 개발자
기타 참여자:
- Amina Mansour | Cloud Platform 평가팀 책임자
- 메건 오키프 | Developer Advocate
- 사만다 헤 | 테크니컬 라이터
- 시르 메이르 라도르 | 개발자 관계 엔지니어링 관리자