프롬프트 최적화

이 문서에서는 Gemini Enterprise Agent Platform Prompt Optimizer를 사용하여 프롬프트 집합에 대한 시스템 요청 사항을 개선해 프롬프트 성능을 자동으로 최적화하는 방법을 설명합니다.

Agent Platform Prompt Optimizer를 사용하면 시스템 요청 사항이나 개별 프롬프트를 수동으로 다시 작성하지 않고도 프롬프트를 대규모로 빠르게 개선할 수 있습니다. 이는 모델 간에 전환하고 시스템 요청 사항과 프롬프트를 재사용하려는 경우에 유용합니다.

프롬프트를 최적화하는 데 사용할 수 있는 접근 방식은 다음과 같습니다.

  • 제로샷 옵티마이저 는 단일 프롬프트 또는 시스템 요청 사항 템플릿을 개선하는 지연 시간이 짧은 실시간 옵티마이저입니다. 빠르며 원래 프롬프트나 시스템 요청 사항을 제공하는 것 외에 추가 설정이 필요하지 않습니다. 제로샷 옵티마이저는 모델에 구애받지 않으며 대부분의 Google 모델의 프롬프트를 개선할 수 있습니다. 또한 gemini_nano 모드를 제공하여 특별히 소규모 모델의 프롬프트를 최적화합니다. 예를 들어 Gemini Nano 및 Gemma 3n E4B와 같은 모델입니다.
  • 퓨샷 옵티마이저 는 모델의 응답이 기대치를 충족하지 못한 예시를 분석하여 시스템 요청 사항을 개선하는 지연 시간이 짧은 실시간 옵티마이저입니다. 프롬프트, 모델 응답, 응답에 대한 의견의 구체적인 예시를 제공하면 프롬프트 성능을 체계적으로 개선할 수 있습니다.
  • 데이터 기반 옵티마이저 는 선택한 타겟 모델의 지정된 평가 측정항목을 기준으로 라벨이 지정된 샘플 프롬프트에 대한 모델의 응답을 평가하여 프롬프트를 개선하는 일괄 작업 수준의 반복 옵티마이저입니다. 최적화 파라미터를 구성하고 라벨이 지정된 샘플을 몇 개 제공할 수 있는 고급 최적화에 사용됩니다. 또한 데이터 기반 옵티마이저는 정식 버전 Gemini 모델(예: Gemini Nano 및 Gemma 3n E4B)과 로컬로 또는 Gemini Enterprise Agent Platform Model Garden에서 배포된 커스텀 모델의 최적화를 지원합니다.

이러한 메서드는 Google Cloud 콘솔 또는 Vertex AI SDK를 통해 사용자에게 제공됩니다.

다음 단계