프롬프트 최적화

이 문서에서는 Vertex AI Prompt Optimizer를 사용하여 프롬프트 집합에 대한 시스템 요청 사항을 개선해 프롬프트 성능을 자동으로 최적화하는 방법을 설명합니다.

Vertex AI Prompt Optimizer를 사용하면 시스템 요청 사항이나 개별 프롬프트를 수동으로 다시 작성하지 않고도 프롬프트를 대규모로 빠르게 개선할 수 있습니다. 이는 특히 한 모델에 작성된 시스템 안내와 프롬프트를 다른 모델에서 사용하려는 경우에 유용합니다.

프롬프트를 최적화하는 두 가지 방법이 있습니다.

  • 제로샷 옵티마이저는 단일 프롬프트 또는 시스템 요청 사항 템플릿을 개선하는 지연 시간이 짧은 실시간 옵티마이저입니다. 빠르며 원래 프롬프트나 시스템 요청 사항을 제공하는 것 외에 추가 설정이 필요하지 않습니다. 제로샷 옵티마이저는 모델에 구애받지 않으며 모든Google 모델의 프롬프트를 개선할 수 있습니다. 또한 gemini_nano 모드를 제공하여 특별히 Gemini Nano 및 Gemma 3n E4B와 같은 온디바이스 모델의 프롬프트를 최적화합니다.
  • 데이터 기반 옵티마이저는 선택한 타겟 모델의 지정된 평가 측정항목을 기준으로 라벨이 지정된 샘플 프롬프트에 대한 모델의 응답을 평가하여 프롬프트를 개선하는 일괄 작업 수준의 반복 옵티마이저입니다. 최적화 파라미터를 구성하고 라벨이 지정된 샘플을 몇 개 제공할 수 있는 고급 최적화에 사용됩니다. 또한 데이터 기반 옵티마이저는 정식 버전 Gemini 모델의 최적화를 지원하며 로컬로 또는 Vertex AI Model Garden에서 배포된 커스텀 모델을 지원합니다.

이러한 메서드는 사용자 인터페이스(UI) 또는 Vertex AI SDK를 통해 사용자에게 제공됩니다.

다음 단계