Agent Platform 개요

Vertex AI는 생성형 AI 및 머신러닝(ML) 모델과 AI 애플리케이션을 빌드, 배포, 확장하기 위한 통합 개방형 플랫폼입니다. 이 플랫폼은 Model Garden에 대한 액세스를 제공하며, 여기에는 Gemini와 같은 Google의 파운데이션 모델을 비롯해 200개 이상의 모델로 구성된 엄선된 카탈로그와 파트너 및 개방형 모델의 포괄적인 선택, 그리고 기본 TPU/GPU 인프라가 포함되어 있습니다. Vertex AI는 최첨단 생성형 AI 워크플로와 MLOps를 위한 AI 추론 워크플로를 지원합니다. 거버넌스, 보안, 규정 준수를 위한 엔드 투 엔드 MLOps 도구와 엔터프라이즈급 제어를 제공합니다.

Vertex AI의 주요 기능

Vertex AI에는 생성형 AI는 물론 AI 추론 및 머신러닝 워크플로를 지원하는 도구와 서비스가 포함되어 있습니다.

생성형 AI 기능

Vertex AI는 다음과 같이 프로덕션에 즉시 사용 가능한 생성형 AI 에이전트와 애플리케이션을 빌드하는 데 사용할 수 있는 Google의 고급 파운데이션 모델 도구와 함께 포괄적인 도구 세트를 제공합니다.

  • 프롬프트: Vertex AI Studio에서 프롬프트 설계로 시작합니다. Vertex AI Studio에는 생성형 AI 애플리케이션을 프로토타입으로 제작, 빌드, 배포하는 데 사용할 수 있는 프롬프트 설계 및 모델 관리 도구가 포함되어 있습니다.

  • 모델: Vertex AI Model Garden은 Google, 주요 서드 파티 파트너(예: Anthropic의 Claude), 인기 오픈소스 옵션(예: Llama)에서 제공하는 200개 이상의 엔터프라이즈 지원 모델을 한데 모아 제공하는 중앙 집중식 허브입니다.

    이 모델 선택에는 다음이 포함됩니다.

    • Google의 파운데이션 생성형 AI 모델:

      • Gemini: 텍스트, 이미지, 동영상, 오디오를 위한 멀티모달 기능과 Gemini 3 Flash, Gemini 3 Pro(Nano Banana 포함)와 같은 모델의 사고 능력을 제공합니다.
      • Vertex AI의 Imagen: 이미지를 생성하고 편집합니다.
      • Vertex AI의 Veo: 텍스트와 이미지로부터 동영상을 생성합니다.

    • 파트너 및 오픈소스 모델: Anthropic의 Claude, Mistral AI 모델, Llama와 같이 엄선된 주요 모델을 우수한 가격 대비 성능으로 이용할 수 있습니다. 이러한 모델은 완전 관리형 서비스형 모델(MaaS) API로 제공됩니다.

  • 모델 맞춤설정: 비즈니스에 맞게 모델을 맞춤설정하여 자체 AI 애셋을 만듭니다. 이는 할루시네이션을 줄이기 위한 기업 데이터 또는 Google 검색 기반 그라운딩부터 Gemini와 같은 모델의 지도 미세 조정(SFT) 또는 Parameter-Efficient Fine-Tuning(PEFT)을 위한 Vertex AI Training 활용에 이르기까지 다양합니다. 모델 맞춤설정에 대한 자세한 내용은 조정 소개를 참조하세요.

  • 생성형 AI 평가: Gen AI Evaluation Service를 사용하여 모델 및 에이전트 성능을 객관적으로 평가하고 비교합니다. Model Armor와 같은 런타임 방어 기능을 배포하여 프롬프트 인젝션, 데이터 무단 반출과 같은 새로운 위협을 사전에 검사하고 보호하여 안전성과 규정 준수를 보장합니다.

  • 에이전트 빌더: Vertex AI Agent Builder는 AI 에이전트를 만들고 관리하고 배포하는 데 도움이 되는 풀 스택 에이전트 변환 시스템입니다. 오픈소스 에이전트 개발 키트(ADK)를 사용하여 에이전트를 빌드하고 조정한 다음 관리형 서버리스 Vertex AI Agent Engine에 배포하여 대규모 프로덕션에 사용합니다. 각 에이전트에는 보안 및 명확한 감사 추적을 위해 에이전트 ID(Identity and Access Management 주 구성원)가 할당됩니다.

  • 외부 정보 액세스: 그라운딩으로 신뢰할 수 있는 소스에 연결하고, 함수 호출을 통해 외부 API와 상호작용하며, RAG로 기술 자료에서 정보를 검색하여 모델 응답을 향상시킵니다.

  • 책임감 있는 AI 및 안전: 기본 제공 안전 기능을 사용하여 유해한 콘텐츠를 차단하고 책임감 있는 AI 사용을 보장합니다.

Vertex AI의 생성형 AI에 대한 자세한 내용은 Vertex AI의 생성형 AI 문서를 참조하세요.

AI 추론 기능

Vertex AI는 ML 워크플로의 각 단계에 매핑되는 도구와 서비스를 제공합니다.

  1. 데이터 준비: 데이터를 수집, 정리, 변환합니다.

  2. 모델 학습: ML 모델을 학습시킵니다.

    • 코드 없이 학습할 수 있는 AutoML과 완전한 제어를 위한 커스텀 학습 중에서 선택하세요.
    • Vertex AI Experiments를 사용하여 학습 실행을 관리하고 비교합니다.
    • Vertex AI Model Registry에 학습된 모델을 등록합니다.
    • Vertex AI Training은 서버리스 학습과 학습 클러스터 모두를 제공합니다.
      • Vertex AI 서버리스 학습을 사용하여 완전 관리형 환경에서 주문형으로 커스텀 학습 코드를 실행합니다. [Vertex AI 서버리스 학습 개요][서버리스]를 참조하세요.
      • 전용으로 예약된 액셀러레이터 클러스터에서 보장된 용량이 필요한 대규모 작업에 Vertex AI 학습 클러스터를 사용합니다. Vertex AI 학습 클러스터 개요를 참조하세요.
    • Vertex AI 기반 Ray를 사용하여 관리형 대화형 클러스터에서 오픈소스 Ray 프레임워크를 사용해 Python 및 ML 워크로드를 확장합니다. Vertex AI 기반 Ray 개요를 참조하세요.
    • Vertex AI Vizier를 사용하여 복잡한 ML 모델에서 모델 초매개변수를 조정합니다.

  3. 모델 평가 및 반복 조정: 모델 성능을 평가하고 개선합니다.

  4. 모델 서빙: 모델을 배포하고 모델로부터 추론을 가져옵니다.

  5. 모델 모니터링: 배포된 모델의 성능을 시간에 따라 추적합니다.

머신러닝 워크플로 이미지

MLOps 도구

ML 프로젝트를 자동화, 관리, 모니터링합니다.

  • Vertex AI Pipelines: 재사용 가능한 파이프라인으로 ML 워크플로를 조정하고 자동화합니다.
  • Vertex AI Model Registry: 버전 관리 및 배포를 비롯한 ML 모델의 수명 주기를 관리합니다.
  • Vertex AI 서버리스 학습: 완전 관리형 환경에서 주문형으로 커스텀 학습 코드를 실행합니다.
  • Vertex AI Model Monitoring: 배포된 모델을 대상으로 데이터 편향 및 드리프트를 모니터링하여 성능을 유지합니다.
  • Vertex AI Experiments: 다양한 모델 아키텍처와 초매개변수를 추적하고 분석합니다.
  • Vertex AI Feature Store: 모델 학습이나 실시간 예측에 사용되는 특성 데이터를 관리하고 제공합니다.
  • Vertex ML Metadata: ML 아티팩트에 대한 메타데이터를 추적하고 관리합니다.
  • Vertex AI Training 클러스터: 보장된 용량이 필요한 대규모 작업을 전용으로 예약된 액셀러레이터 클러스터에서 훈련합니다.
  • Vertex AI 기반 Ray: 관리형 대화형 클러스터에서 오픈소스 Ray 프레임워크를 사용해 Python 및 ML 워크로드를 확장합니다.

다음 단계