Auf dieser Seite werden die optionalen Stichprobenparameter aufgeführt, die Sie in einer Anfrage an ein Modell festlegen können. Die für die einzelnen Modelle verfügbaren Parameter können unterschiedlich sein. Weitere Informationen finden Sie in der Referenzdokumentation.
Token-Sampling-Parameter
Die Parameter in diesem Abschnitt beeinflussen, wie das Modell das nächste Token aus seinem Vokabular auswählt. Durch Anpassen dieser Parameter können Sie die Zufälligkeit und Vielfalt des generierten Textes steuern.
Top-K
Der Wert „Top-K“ ändert, wie das Modell Tokens für die Ausgabe auswählt. Ein „Top-K“ von 1 bedeutet, dass das nächste ausgewählte Token unter den Tokens im Modell-Vokabular (auch als gierige Decodierung bezeichnet) am wahrscheinlichsten ist, während ein „Top-K“ von 3 bedeutet, dass das nächste Token mithilfe der Temperatur aus den drei wahrscheinlichsten Tokens ausgewählt wird.
Für jeden Tokenauswahlschritt werden die „Top-K“-Tokens mit den höchsten Wahrscheinlichkeiten stichprobenartig erfasst. Anschließend werden Tokens weiter auf der Grundlage von „Top-P“ gefiltert, wobei das endgültige Token mithilfe von Temperaturproben ausgewählt wird.
Geben Sie einen niedrigeren Wert für weniger zufällige Antworten und einen höheren Wert für zufälligere Antworten an.
Bei Gemini 3.5 Flash ist topK auf 64 festgelegt und kann nicht geändert werden.
Weitere Informationen finden Sie unter topK.
Top-P
Der Wert „Top-P“ ändert, wie das Modell Tokens für die Ausgabe auswählt. Die Tokens werden von den wahrscheinlichsten bis zu den unwahrscheinlichsten Werten ausgewählt, bis die Summe ihrer Wahrscheinlichkeiten dem „Top-P“-Wert entspricht. Beispiel: Wenn die Tokens A, B und C eine Wahrscheinlichkeit von 0,3, 0,2 und 0,1 haben und der „Top-P“-Wert 0.5 ist, wählt das Modell anhand der Temperatur entweder A oder B als das nächste Token und C als Kandidaten ausschließen.
Geben Sie einen niedrigeren Wert für weniger zufällige Antworten und einen höheren Wert für zufälligere Antworten an.
Weitere Informationen finden Sie untertopP.
Temperatur
Die Temperatur wird für die Probenahme während der Antwortgenerierung verwendet. Dies passiert, wenn topP und topK angewendet werden. Die Temperatur bestimmt den Grad der Zufälligkeit bei der Tokenauswahl.
Niedrigere Temperaturen eignen sich gut für Prompts, die eine weniger offene oder kreative Antwort erfordern, während höhere Temperaturen zu vielfältigeren oder kreativeren Ergebnissen führen können. Eine Temperatur von 0 bedeutet, dass immer die Tokens mit der höchsten Wahrscheinlichkeit ausgewählt werden. In diesem Fall sind die Antworten auf einen bestimmten Prompt größtenteils deterministisch, aber eine gewisse Variation ist dennoch möglich.
Wenn das Modell eine zu allgemeine oder zu kurze Antwort zurückgibt, oder wenn das Modell eine Fallback-Antwort ausgibt, versuchen Sie, die Temperatur zu erhöhen. Wenn das Modell in eine unendliche Generierung übergeht, kann eine Erhöhung der Temperatur auf mindestens 0.1 zu besseren Ergebnissen führen.
1.0 ist der empfohlene Startwert für die Temperatur.
Niedrigere Temperaturen führen zu vorhersehbaren (aber nicht vollständig deterministischen) Ergebnissen. Weitere Informationen finden Sie unter temperature.
Parameter für das Beenden
Mit den Parametern in diesem Abschnitt können Sie die Länge und den Inhalt der generierten Ausgabe des Modells genau steuern, indem Sie Bedingungen definieren, unter denen der Generierungsprozess beendet werden soll.
Maximale Ausgabetokens
Legen Sie maxOutputTokens fest, um die Anzahl der in der Antwort generierten Tokens zu begrenzen. Ein Token besteht aus etwa vier Zeichen. 100 Tokens entsprechen also etwa 60–80 Wörtern. Legen Sie einen niedrigen Wert fest, um die Länge der Antwort zu begrenzen.
Stoppsequenzen
Definieren Sie Strings in stopSequences, um das Modell anzuweisen, die Textgenerierung zu beenden, wenn einer der Strings in der Antwort gefunden wird. Kommt ein String mehrmals in der Antwort vor, so wird die Antwort an der Stelle abgeschnitten, an der er zuerst erfasst wurde. Bei Strings wird zwischen Groß- und Kleinschreibung unterschieden.
Parameter für Token-Strafen
Mit den Parametern in diesem Abschnitt können Sie die Wahrscheinlichkeit steuern, mit der Tokens basierend auf ihrer Häufigkeit und ihrem Vorhandensein in der Ausgabe generiert werden.
Strafe für die Häufigkeit
Positive Werte nehmen Abzüge bei Tokens vor, die wiederholt im generierten Text angezeigt werden, wodurch die Wahrscheinlichkeit wiederholter Inhalte verringert wird. Der Mindestwert beträgt -2.0. Der Maximalwert geht bis, aber nicht einschließlich 2.0.
Weitere Informationen finden Sie unter frequencyPenalty in der GenerationConfig-Dokumentation.
Strafe für Präsenz
Positive Werte nehmen Abzüge bei Tokens vor, die wiederholt im generierten Text angezeigt werden, wodurch die Wahrscheinlichkeit wiederholter Inhalte verringert wird. Der Mindestwert beträgt -2.0. Der Maximalwert geht bis, aber nicht einschließlich 2.0.
Weitere Informationen finden Sie unter presencePenalty in der GenerationConfig-Dokumentation.
Parameter für das Antwortformat
Mit den Parametern in diesem Abschnitt können Sie das Format der generierten Ausgabe des Modells konfigurieren.
MIME-Typ der Antwort
Legen Sie responseMimeType fest, um den MIME-Typ der Ausgabeantwort des generierten Kandidatentextes anzugeben. Unterstützte Werte sind:
text/plain(Standard): Nur-Text-Ausgabe.application/json: JSON-Antwort in den Kandidaten.text/x.enum: Geben Sie für Klassifizierungsaufgaben einen Enum-Wert aus, wie im Antwortschema definiert.
Geben Sie den entsprechenden Antworttyp an, um unbeabsichtigtes Verhalten zu vermeiden. Wenn Sie beispielsweise eine Antwort im JSON-Format benötigen, geben Sie application/json und nicht text/plain an.
Weitere Informationen finden Sie unter responseMimeType und Strukturierte Ausgabe.
Erweiterte Parameter
Mit diesen Parametern können Sie mehr Informationen zu den Tokens in der Antwort zurückgeben oder die Variabilität der Antwort steuern.
Anzahl der Kandidaten
Die Anzahl der zurückzugebenden Antwortvarianten. Für jede Anfrage werden Ihnen die Ausgabetokens aller Kandidaten in Rechnung gestellt, aber nur einmal für die Eingabetokens.
Die Angabe mehrerer Kandidaten ist eine Funktion in der Vorabversion, die mit generateContent funktioniert (streamGenerateContent wird nicht unterstützt).
candidateCount.
Seed
Wenn die Seed-Daten auf einen bestimmten Wert festgelegt sind, versucht das Modell, für wiederholte Anfragen dieselbe Antwort bereitzustellen. Die deterministische Ausgabe wird nicht zwangsläufig erfüllt.
Wenn Sie die Modell- oder Parametereinstellungen ändern, z. B. die Temperatur, kann dies außerdem zu Abweichungen in der Antwort führen, selbst wenn Sie denselben Startwert verwenden. Standardmäßig wird ein zufälliger Startwert verwendet.
Weitere Informationen finden Sie unter seed.
Beispiel
Hier ist ein Beispiel, in dem Parameter verwendet werden, um die Antwort eines Modells abzustimmen.
Python
Installieren
pip install --upgrade google-genai
Weitere Informationen finden Sie in der SDK-Referenzdokumentation.
Legen Sie Umgebungsvariablen fest, um das Google Gen AI SDK mit Vertex AI zu verwenden:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
Go
Go installieren oder aktualisieren
Weitere Informationen finden Sie in der SDK-Referenzdokumentation.
Legen Sie Umgebungsvariablen fest, um das Google Gen AI SDK mit Vertex AI zu verwenden:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
Node.js
Installieren
npm install @google/genai
Weitere Informationen finden Sie in der SDK-Referenzdokumentation.
Legen Sie Umgebungsvariablen fest, um das Google Gen AI SDK mit Vertex AI zu verwenden:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
Java
Java installieren oder aktualisieren
Weitere Informationen finden Sie in der SDK-Referenzdokumentation.
Legen Sie Umgebungsvariablen fest, um das Google Gen AI SDK mit Vertex AI zu verwenden:
# Replace the `GOOGLE_CLOUD_PROJECT` and `GOOGLE_CLOUD_LOCATION` values # with appropriate values for your project. export GOOGLE_CLOUD_PROJECT=GOOGLE_CLOUD_PROJECT export GOOGLE_CLOUD_LOCATION=global export GOOGLE_GENAI_USE_ENTERPRISE=True
Nächste Schritte
- Best Practices für verantwortungsbewusste KI und die Sicherheitsfilter der Agent Platform
- Weitere Informationen zu Systemanweisungen für die Sicherheit
- Informationen zum Monitoring von Missbrauch
- Informationen zu verantwortungsbewusster KI