Includi esempi few-shot

Puoi includere esempi nel prompt che mostrino al modello l'aspetto di una risposta valida. Il modello tenta di identificare pattern e relazioni dagli esempi e li applica quando genera una risposta. I prompt che contengono esempi sono chiamati prompt few-shot, mentre i prompt che non forniscono esempi sono chiamati prompt zero-shot. I prompt few-shot vengono spesso utilizzati per regolare la formattazione, la formulazione, l'ambito o i pattern generali delle risposte del modello. Utilizza esempi specifici e vari per aiutare il modello a restringere il suo focus e generare risultati più accurati.

L'inclusione di esempi few-shot nei prompt li rende più affidabili ed efficaci. Tuttavia, devi sempre accompagnare gli esempi few-shot con istruzioni chiare. Senza istruzioni chiare, i modelli potrebbero rilevare pattern o relazioni non intenzionali dagli esempi, il che può portare a risultati scadenti.

I punti chiave di questa strategia sono i seguenti:

  • L'inclusione di esempi di prompt-risposta nel prompt aiuta il modello a imparare come rispondere.
  • Utilizza il markup simile a XML per contrassegnare gli esempi.
  • Sperimenta con il numero di prompt da includere. A seconda del modello, un numero troppo basso di esempi non è efficace per modificare il comportamento del modello. Un numero eccessivo di esempi può causare l'overfitting del modello.
  • Utilizza una formattazione coerente tra gli esempi

Prompt zero-shot e few-shot

Il seguente prompt zero-shot chiede al modello di estrarre le specifiche tecniche dal testo e di generarle in formato JSON:

Extract the technical specifications from the text below in JSON format.

Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "Network": "5G",
      "RAM": "8GB",
      "Processor": "Tensor G2",
      "Storage": "128GB",
      "Color": "Lemongrass"
    }

Supponiamo che il tuo caso d'uso richieda una formattazione specifica, ad esempio l'utilizzo di nomi di chiavi in minuscolo. Puoi includere esempi nel prompt che mostrino al modello come formattare il JSON. Il seguente prompt few-shot mostra un formato di output in cui le chiavi JSON sono in minuscolo:

Extract the technical specifications from the text below in a JSON format.

<EXAMPLE>
  INPUT: Google Nest Wifi, network speed up to 1200Mpbs, 2.4GHz and 5GHz frequencies, WP3 protocol

  OUTPUT:
  {
    "product":"Google Nest Wifi",
    "speed":"1200Mpbs",
    "frequencies": ["2.4GHz", "5GHz"],
    "protocol":"WP3"
  }
</EXAMPLE>

  Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "product": "Google Pixel 7",
      "network": "5G",
      "ram": "8GB",
      "processor": "Tensor G2",
      "storage": "128GB",
      "color": "Lemongrass"
    }

Tieni presente che l'esempio utilizza la formattazione simile a XML per separare i componenti del prompt. Per saperne di più su come formattare in modo ottimale i prompt few-shot utilizzando la formattazione simile a XML, consulta la sezione Strutturare i prompt.

Trovare il numero ottimale di esempi

Puoi sperimentare con il numero di esempi da fornire nel prompt per ottenere i risultati più desiderati. I modelli come Gemini spesso possono rilevare pattern utilizzando alcuni esempi, anche se potrebbe essere necessario sperimentare con il numero di esempi che porta ai risultati desiderati. Allo stesso tempo, se includi troppi esempi, il modello potrebbe iniziare a adattare eccessivamente la risposta agli esempi.

Passaggi successivi