Google verwendet KI-Technologie, um Inhalte in Ihre bevorzugte Sprache zu übersetzen. KI-Übersetzungen können Fehler enthalten.

Auf die neuesten Gemini-Modelle migrieren

In diesem Leitfaden wird beschrieben, wie Sie Ihre Anwendung auf die neueste Gemini-Version aktualisieren. In diesem Leitfaden wird davon ausgegangen, dass Ihre Anwendung bereits eine ältere Gemini-Version verwendet. Informationen zu den ersten Schritten mit Gemini in der Gemini Enterprise Agent Platform finden Sie unter Erste Schritte mit der Gemini Enterprise Agent Platform.

In diesem Leitfaden wird nicht beschrieben, wie Sie Ihre Anwendung vom Vertex AI SDK auf das aktuelle Google Gen AI SDK umstellen. Weitere Informationen finden Sie in unserem Migrationsleitfaden für das Vertex AI SDK.

Welche Änderungen sind zu erwarten?

Für die Aktualisierung der meisten generativen KI-Anwendungen auf die neueste Gemini-Version sind nur wenige Code- oder Prompt-Änderungen erforderlich. Bei einigen Anwendungen sind jedoch möglicherweise Anpassungen der Prompts erforderlich. Es ist schwierig, diese Änderungen vorherzusagen, ohne Ihre Prompts zuerst mit der neuen Version zu testen. Wir empfehlen, vor der vollständigen Migration gründliche Tests durchzuführen. Tipps zum Erstellen effektiver Prompts finden Sie in unserem Leitfaden zur Prompt-Strategie. Verwenden Sie unsere Checkliste für die Prompt-Integrität, um Probleme mit Prompts zu finden und zu beheben.

Aktualisierung der Berichterstellung zur Tokenanzahl

Möglicherweise stellen Sie einen Anstieg der gemeldeten Tokenanzahl fest, da unsere aktualisierte Infrastruktur jetzt alle Anfragekomponenten genau erfasst, einschließlich komplexer Metadaten wie Antwortschemas und Funktionsaufrufe, die vom Legacy-System zuvor nicht vollständig erfasst wurden.

Größere Codeänderungen sind nur bei bestimmten funktionsgefährdenden Änderungen oder zur Nutzung neuer Gemini-Funktionen erforderlich.

Zu welchem Gemini-Modell sollte ich migrieren?

Welches Gemini-Modell Sie verwenden, hängt von den Anforderungen Ihrer Anwendung ab:

Funktion	3.1 Pro	3.5 Flash-Lite	3.5 Flash	3.6 Flash	3.7 Flash	3.8 Flash	4 Argon
Startphase	Vorschau	GA	GA	GA	GA	GA	GA
Eingabemodalitäten	Text, Bild, Audio, Video	Text, Bild, Audio, Video	Text, Bild, Audio, Video	Text, Bild, Audio, Video	Text, Bild, Audio, Video	Text, Bild, Audio, Video	Text, Bild, Audio, Video
Ausgabemodalitäten	Text	Text	Text	Text	Text	Text	Text
Kontextfenster, Gesamttokenlimit	1.048.576	1.048.576	1.048.576	1.048.576	1.048.576	1.048.576	1.048.576
Länge des Ausgabekontexts	65.536	65.536	65.536	65.536	65.536	65.536	1.048.576
Fundierung mit der Google Suche
Funktionsaufrufe
Code-Ausführung
Implizites Kontext-Caching
Explizites Kontext-Caching
Batch-Inferenz
Gemini Live API
Feinabstimmung
Latenz
Ausmusterungsdatum		21. Juli 2027 oder später	19. Mai 2027 oder später	19. November 2026	28. Januar 2027	Ab dem 2. September 2027	13. Oktober 2027 oder später

Vorbereitung der Migration

Bevor Sie mit der Migration beginnen, sollten Sie Folgendes beachten:

Informationssicherheit (InfoSec), Governance und behördliche Genehmigungen
Verfügbarkeit von Standorten
Preisunterschiede je nach Modalität und Tokenisierung
Bestellungen für bereitgestellten Durchsatz kaufen oder ändern
Überwachte Feinabstimmung
Regressionstests

Informationssicherheit, Governance und behördliche Genehmigungen

Holen Sie frühzeitig die Genehmigungen von Ihren Informationssicherheits-, Risiko- und Compliance-Teams ein. Berücksichtigen Sie alle spezifischen Risiko- und Compliance-Regeln, insbesondere in regulierten Branchen wie dem Gesundheitswesen und dem Finanzsektor.

Standort-Verfügbarkeit

Modelle und generative KI-Funktionen von Google und Partnern auf der Gemini Enterprise Agent Platform sind über bestimmte regionale Endpunkte und einen globalen Endpunkt verfügbar. Globale Endpunkte decken die ganze Welt ab und bieten im Vergleich zu einzelnen Regionen eine bessere Verfügbarkeit und Zuverlässigkeit.

Die regionale Verfügbarkeit von Endpunkten variiert je nach Modell. Weitere Informationen zu den einzelnen Modellen finden Sie in unserem Leitfaden zu Standorten.

Preisunterschiede je nach Modalität und Tokenisierung

Die Preise variieren je nach Gemini-Modell. Auf unserer Preisseite finden Sie die Kosten für alle Modalitäten (Text, Code, Bilder, Sprache usw.) pro Modell.

Bestellungen für bereitgestellten Durchsatz aufgeben oder ändern

Bei Bedarf können Sie zusätzlichen bereitgestellten Durchsatz erwerben oder bestehende Bestellungen für bereitgestellten Durchsatz ändern.

Überwachte Feinabstimmung

Die neuesten Gemini-Modelle bieten eine bessere Ausgabequalität. Das kann bedeuten, dass für Ihre Anwendung kein feinabgestimmtes Modell mehr erforderlich ist. Wenn Ihre Anwendung die überwachte Feinabstimmung mit einem älteren Gemini-Modell verwendet, testen Sie Ihre Anwendung zuerst mit dem neuesten Modell ohne Feinabstimmung und bewerten Sie die Ergebnisse.

Wenn Sie die überwachte Feinabstimmung verwenden, können Sie Ihr vorhandenes optimiertes Modell nicht aus älteren Gemini-Versionen übertragen. Sie müssen einen neuen Abstimmungsjob für die neue Gemini-Version ausführen.

Beginnen Sie beim Abstimmen eines neuen Gemini-Modells mit den Standardeinstellungen für die Abstimmung. Verwenden Sie keine Hyperparameterwerte aus früheren Gemini-Versionen wieder, da der Tuning-Dienst für die neuesten Versionen optimiert ist. Die Wiederverwendung alter Einstellungen führt wahrscheinlich nicht zu optimalen Ergebnissen.

Regressionstests

Wenn Sie auf die aktuelle Gemini-Version aktualisieren, benötigen Sie drei Haupttypen von Regressionstests:

Coderegressionstests:Regressionstests aus der Perspektive von Software-Engineering und Developer Operations (DevOps). Diese Art von Regressionstests ist immer erforderlich.
Regressionstests für die Modellleistung:Regressionstests aus Data-Science- oder Machine-Learning-Perspektive. Das bedeutet, dass die neue Gemini-Modellversion Ausgaben liefern muss, die mindestens die gleiche Qualität wie die vorherige Version haben.

Regressionstests für die Modellleistung sind Modellbewertungen, die durchgeführt werden, wenn sich ein System oder das zugrunde liegende Modell ändert. Dazu gehören:
- Offline-Leistungstests:Tests, mit denen die Qualität der Modellausgaben in einer dedizierten Testumgebung anhand verschiedener Qualitätsmesswerte für Modellausgaben überprüft wird.
- Online-Modellleistungstests: Tests, mit denen die Qualität der Modellausgaben in einer Live-Online-Bereitstellung anhand von implizitem oder explizitem Nutzerfeedback überprüft wird.
Lasttests: Mit diesen Tests wird geprüft, wie gut die Anwendung viele Anfragen gleichzeitig verarbeitet. Belastungstests sind für Anwendungen erforderlich, die bereitgestellten Durchsatz verwenden.

Zur aktuellen Version migrieren

In den folgenden Abschnitten werden die Schritte für die Migration zur neuesten Gemini-Version beschrieben. Führen Sie diese Schritte nacheinander aus, um optimale Ergebnisse zu erzielen.

1. Anforderungen an die Modellbewertung und -tests dokumentieren

Bereiten Sie sich darauf vor, alle relevanten Bewertungen zu wiederholen, die Sie beim ersten Erstellen Ihrer Anwendung durchgeführt haben, sowie alle Bewertungen, die seitdem durchgeführt wurden.
Wenn Ihre aktuellen Bewertungen nicht alle Aufgaben abdecken oder messen, die Ihre Anwendung ausführt, sollten Sie weitere Bewertungen entwerfen und vorbereiten. Unser Evaluierungs-Playbook und unsere Evaluierungsrezepte können Ihnen den Einstieg erleichtern.
Wenn Ihre Anwendung RAG, die Verwendung von Tools, komplexe Agent-Workflows oder Prompt-Ketten umfasst, müssen Sie dafür sorgen, dass Ihre vorhandenen Auswertungsdaten eine unabhängige Bewertung jeder Komponente ermöglichen. Falls nicht, sammeln Sie Eingabe-Ausgabe-Beispiele für jede Komponente.
Wenn Ihre Anwendung kritisch ist oder Teil eines größeren, für Nutzer sichtbaren Echtzeitsystems ist, sollten Sie eine Online-Bewertung einbeziehen.

2. Code aktualisieren und Tests ausführen

Für die Aktualisierung Ihres Codes sind drei Hauptänderungen erforderlich:

Upgrade auf das Google Gen AI SDK durchführen
Gemini-Anrufe ändern
Fehlerhafte Codeänderungen beheben

In den folgenden Abschnitten werden diese Änderungen näher erläutert.

Upgrade auf das Google Gen AI SDK

Wenn Ihre Gemini 1.x-Anwendung das Vertex AI SDK verwendet, wechseln Sie zum Google Gen AI SDK. Weitere Informationen, einschließlich Codebeispielen für ähnliche Aufrufe mit dem Google Gen AI SDK, finden Sie in unserem Vertex AI SDK-Migrationsleitfaden. Vertex AI SDK-Releases nach Juni 2026 unterstützen Gemini nicht mehr und neue Gemini-Funktionen sind nur im Google Gen AI SDK verfügbar.

Wir empfehlen dringend, auf die google-genai SDK-Version 2.0.0 oder höher zu aktualisieren, um alle neuen Funktionen in Gemini 3.5 Flash und späteren Modellen nutzen zu können.

Wenn Sie das Google Gen AI SDK noch nicht kennen, lesen Sie das Notebook Erste Schritte mit der generativen KI von Google und dem Google Gen AI SDK.

Gemini-Anrufe ändern

Aktualisieren Sie Ihren Vorhersagecode, um eines der neuesten Gemini-Modelle zu verwenden. Das bedeutet mindestens, dass Sie den Namen des Modellendpunkts ändern müssen.

Die genauen Codeänderungen hängen davon ab, wie Sie Ihre Anwendung erstellt haben, insbesondere davon, ob Sie das Google Gen AI SDK oder das Vertex AI SDK verwendet haben.

Führen Sie nach Codeänderungen Regressionstests und andere Softwaretests durch, um sicherzustellen, dass der Code wie erwartet funktioniert. In diesem Schritt wird geprüft, ob der Code funktioniert, nicht aber die Qualität der Modellantworten.

Fehlerhafte Codeänderungen beheben

Dynamischer Abruf: Wechseln Sie zur Fundierung mit der Google Suche. Für diese Funktion ist das Google Gen AI SDK erforderlich. Sie wird vom Vertex AI SDK nicht unterstützt.
Inhaltsfilter: Beachten Sie die Standardeinstellungen für Inhaltsfilter. Ändern Sie Ihren Code, wenn er auf einem Standardwert basiert, der sich geändert hat.
Top-K-Token-Sampling-Parameter: Modelle nach gemini-1.0-pro-vision unterstützen keine Änderung des Top-K-Parameters.
Thinking: Gemini 3 Pro und neuere Modelle verwenden den Parameter thinking_level anstelle von thinking_budget. Weitere Informationen finden Sie unter Denkprozess des Modells steuern.
Gedankensignaturen: Bei Gemini 3 Pro und neueren Modellen gibt das Modell einen Fehler anstelle einer Warnung zurück, wenn in einem Zug eine Gedankensignatur erwartet wird, aber nicht angegeben ist. Weitere Informationen finden Sie unter Gedankensignaturen.
Mediaauflösung und Tokenisierung: Gemini 3 Pro und neuere Modelle verwenden eine variable Sequenzlänge für die Media-Tokenisierung anstelle von Pan & Scan und haben neue Standardauflösungen und Tokenkosten für Bilder, PDFs und Videos. Weitere Informationen finden Sie unter Bildverständnis und Videoverständnis.
Nutzungsmetadaten: Bei Gemini 3 Pro und späteren Modellen werden PDF-Tokenanzahlen in usage_metadata unter der Modalität IMAGE anstelle von DOCUMENT gemeldet.
Bildsegmentierung: Die Bildsegmentierung wird von Gemini 3 Pro und späteren Modellen nicht unterstützt.
Multimodale Funktionsantworten: Bei Gemini 3 Pro und neueren Modellen können Sie Bild- und PDF-Daten in Funktionsantworten einfügen. Weitere Informationen finden Sie unter Multimodale Funktionsantworten.
PDF-Verarbeitung: Bei Gemini 3 Pro und höheren Modellen wird OCR standardmäßig nicht für die Verarbeitung gescannter PDFs verwendet.

Konzentrieren Sie sich in diesem Schritt nur auf Codeänderungen. Möglicherweise müssen Sie später weitere Änderungen vornehmen, aber warten Sie damit, bis Sie mit der Bewertung beginnen. Nach der Auswertung sollten Sie die folgenden Anpassungen auf Grundlage der Ergebnisse in Betracht ziehen:

Wenn Sie von dynamischem Abruf wechseln, müssen Sie möglicherweise Ihre Systemanweisungen anpassen, um zu steuern, wann die Google Suche verwendet wird (z. B. "Only generate queries for the Google Search tool if the user asks about sports. Don't generate queries for any other topic."). Warten Sie jedoch mit dem Ändern von Prompts, bis Sie die Bewertung abgeschlossen haben.
Wenn Sie den Parameter Top-K verwendet haben, passen Sie andere Parameter für die Token-Stichprobenerhebung an, z. B. Top-P, um ähnliche Ergebnisse zu erhalten.

3. Offlinebewertungen ausführen

Wiederholen Sie die Bewertungen, die Sie bei der ersten Entwicklung und Einführung Ihrer Anwendung durchgeführt haben, alle seitdem durchgeführten Offline-Bewertungen und alle zusätzlichen Bewertungen, die Sie in Schritt 1 identifiziert haben. Wenn Sie der Meinung sind, dass Ihre Bewertung den Umfang Ihrer Anwendung nicht vollständig abdeckt, führen Sie weitere Bewertungen durch.

Wenn Sie keine automatisierte Möglichkeit haben, Offlinebewertungen auszuführen, können Sie den Gen AI Evaluation Service verwenden.

Wenn Ihre Anwendung Feinabstimmung verwendet, führen Sie eine Offline-Bewertung durch, bevor Sie Ihr Modell mit der aktuellen Version von Gemini neu abstimmen. Die neuesten Modelle bieten eine verbesserte Ausgabequalität, was bedeuten kann, dass Ihre Anwendung kein feinabgestimmtes Modell mehr benötigt.

4. Bewertungsergebnisse analysieren und Prompts und Hyperparameter optimieren

Wenn Ihre Offline-Bewertung zeigt, dass Ihre Anwendung weniger effektiv ist, sollten Sie sie verbessern, bis ihre Leistung dem älteren Modell entspricht. Gehen Sie dazu so vor:

Iteratives Verfeinern Ihrer Prompts, um die Leistung zu steigern („Hill Climbing“). Wenn Sie mit Hill Climbing noch nicht vertraut sind, lesen Sie das Online-Training zu Vertex Gemini Hill Climbing. Der Prompt-Optimierer der Gemini Enterprise Agent Platform (Beispiel-Notebook) kann ebenfalls hilfreich sein.
Wenn Ihre Anwendung von den funktionsgefährdenden Änderungen am dynamischen Abruf und an Top-K betroffen ist, experimentieren Sie mit der Anpassung Ihrer Prompt- und Token-Stichprobenparameter.

5. Lasttests ausführen

Wenn Ihre Anwendung einen bestimmten Mindestdurchsatz erfordert, führen Sie Lasttests durch, um sicherzustellen, dass die aktuelle Version Ihrer Anwendung die Durchsatzanforderungen erfüllt.

Lasttests müssen vor der Onlinebewertung durchgeführt werden, da das Modell bei der Onlinebewertung dem Live-Traffic ausgesetzt wird. Verwenden Sie für diesen Schritt Ihre vorhandenen Lasttesttools und Instrumentierungen.

Wenn Ihre Anwendung die Durchsatzanforderungen bereits erfüllt, sollten Sie Bereitgestellter Durchsatz verwenden. Sie benötigen zusätzlichen kurzfristigen bereitgestellten Durchsatz, um Lasttests durchzuführen, während mit Ihrer aktuellen Bestellung für bereitgestellten Durchsatz Produktions-Traffic verarbeitet wird.

6. (Optional) Online-Bewertungen durchführen

Wechseln Sie nur dann zur Onlinebewertung, wenn die Offlinebewertung eine hohe Gemini-Ausgabequalität zeigt und Ihre Anwendung eine Onlinebewertung erfordert.

Die Onlinebewertung ist eine spezielle Art von Onlinetests. Versuchen Sie, die vorhandenen Tools und Methoden Ihrer Organisation für die Onlinebewertung zu verwenden. Beispiel:

Wenn Ihre Organisation regelmäßig A/B-Tests durchführt, führen Sie einen Test durch, um die aktuelle Version Ihrer Anwendung mit der neuesten Gemini-Version zu vergleichen.
Wenn Ihre Organisation regelmäßig Canary-Bereitstellungen verwendet, sollten Sie sie mit den neuesten Modellen nutzen und Änderungen im Nutzerverhalten messen.

Sie können auch eine Onlinebewertung durchführen, indem Sie Ihrer Anwendung neue Feedback- und Messfunktionen hinzufügen. Für verschiedene Anwendungen sind unterschiedliche Feedbackmethoden erforderlich. Beispiel:

Hinzufügen von „Mag ich“- und „Mag ich nicht“-Schaltflächen neben den Modellausgaben und Vergleichen der Bewertungen zwischen einem älteren Modell und den neuesten Gemini-Modellen.
Nutzern die Ausgaben des älteren Modells und der neuesten Modelle nebeneinander zeigen und sie bitten, ihren Favoriten auszuwählen.
Erfassen, wie oft Nutzer Ausgaben des älteren Modells im Vergleich zu den neuesten Modellen überschreiben oder manuell anpassen.

Für diese Feedbackmethoden ist es oft erforderlich, die aktuelle Gemini-Version neben Ihrer vorhandenen Version auszuführen. Diese parallele Bereitstellung wird manchmal als „Schattenmodus“ oder „Blau-Grün-Bereitstellung“ bezeichnet.

Wenn die Ergebnisse der Onlinebewertung stark von den Ergebnissen der Offlinebewertung abweichen, werden bei der Offlinebewertung wichtige Aspekte der Live-Umgebung oder der Nutzererfahrung nicht erfasst. Wenden Sie die Ergebnisse der Onlinebewertung an, um eine neue Offlinebewertung zu erstellen, die die Lücke schließt, und kehren Sie dann zu Schritt 3 zurück.

Wenn Sie Bereitgestellten Durchsatz verwenden, müssen Sie möglicherweise zusätzlichen kurzfristigen Bereitgestellten Durchsatz erwerben, um Ihre Durchsatzanforderungen für Nutzer in der Onlinebewertung weiterhin zu erfüllen.

7. Für die Produktion bereitstellen

Wenn die Auswertung zeigt, dass das aktuelle Gemini-Modell genauso gut oder besser als ein älteres Modell funktioniert, ersetzen Sie die vorhandene Anwendungsversion durch die neue Version. Folgen Sie den Standardverfahren Ihrer Organisation für die Produktionsbereitstellung.

Wenn Sie Bereitgestellter Durchsatz verwenden, ändern Sie Ihre Bereitgestellter Durchsatz-Bestellung in das gewünschte Gemini-Modell. Wenn Sie Ihre Anwendung schrittweise einführen, verwenden Sie den kurzfristigen bereitgestellten Durchsatz, um die Durchsatzanforderungen für zwei verschiedene Gemini-Modelle zu erfüllen.

Parameter-Updates und Best Practices in Gemini 3.x

Die folgenden Informationen gelten für alle Gemini 3.x-Modelle, einschließlich Gemini 3.5 Flash. Sie wurden mit Gemini 3 eingeführt und sind hier zur Erinnerung aufgeführt.

Parameter für die Stichprobenerhebung (eingestellt)

temperature, top_p und top_k werden für alle Gemini 3.x-Modelle nicht mehr empfohlen. Das Modell verwaltet die Stichprobenerhebung selbst, um optimale Ergebnisse zu erzielen. Entfernen Sie diese Parameter aus allen Anfragen.

Für eine maximale Determinismus empfehlen wir, eine Systemanweisung mit expliziten Regeln für Ihren spezifischen Anwendungsfall zu definieren.

`thinking_budget` (verworfen)

Der numerische Rohparameter thinking_budget wird für alle Gemini 3.x-Modelle nicht mehr empfohlen und gibt bei Gemini 4-Modellen einen HTTP-400-Validierungsfehler zurück. Verwenden Sie stattdessen die String-Enum thinking_level.

Funktionsaufrufe: strikter Antwortabgleich

Die API gibt noch keinen Fehler zurück, aber bei nicht übereinstimmenden Antworten gibt das Modell in den meisten Fällen leere Antworten mit finish_reason: STOP zurück. Beachten Sie immer die folgenden Konventionen:

id einfügen: Jedes FunctionResponse muss das id aus dem entsprechenden FunctionCall enthalten.
Übereinstimmung mit name: Die name in der Antwort muss mit der name im Aufruf übereinstimmen.
Übereinstimmungsanzahl: Für jede empfangene FunctionCall wird genau eine FunctionResponse zurückgegeben.

Multimodale Funktionsantworten

Wenn Sie multimodale Inhalte (z. B. Bilder) als Antwort auf einen Funktionsaufruf bereitstellen, fügen Sie die Inhalte in die Teile der Funktionsantwort ein, nicht außerhalb. So wird unerwartetes Modellverhalten wie das Durchsickern von Gedanken verhindert.

Inline-Anweisungen mit Funktionsantwort

Wenn Sie zusammen mit Funktionsantworten Plattformanleitungen bereitstellen müssen, hängen Sie sie an das Ende des Funktionsantworttexts an und trennen Sie sie durch zwei Zeilenumbrüche, anstatt sie als separate Teile zu formatieren.

Unnötige Toolaufrufe reduzieren

Wenn Sie feststellen, dass Tool-Aufrufe zu häufig erfolgen: 1. Denkaufwand reduzieren (medium, low oder minimal). 2. Fügen Sie eine Systemanweisung hinzu, um die Toolnutzung einzuschränken (z.B. "You have a limited action budget of <n> tool calls. Use them efficiently.").

Checkliste für die Migration

Die folgenden Checklisten können Sie als Kurzanleitung für die Migration von früheren Modellversionen verwenden:

Von Gemini 3.1 Pro (Vorabversion) zu Gemini 4 Argon

Aktualisieren Sie den Modellnamen: gemini-3.1-pro-preview → gemini-4-argon (oder gemini-4-argon-cyber-permissive für von Fairwind genehmigte Cybersecurity-Arbeitslasten) und führen Sie ein Upgrade auf das neueste Google Gen AI SDK (google-genai >= 2.30.1 für Python) durch.
Berücksichtigen Sie das einheitliche Limit von 1.048.576 Tokens für Eingabe und Ausgabe (wobei die Ausgabe Thinking, Funktionsaufrufe und die endgültige Antwort umfasst) und das Limit von 65.536 Tokens für die Ausgabe einer einzelnen Anfrage (32.768 Tokens für direkte HTTP-Aufrufe ohne Streaming). Konfigurieren Sie für Single-Turn-Ausgaben mit bis zu 1.048.576 Tokens lange Decodierungen für GenerateContent. Dies wird im Google Gen AI SDK automatisch verarbeitet, wenn max_output_tokens auf einen Wert größer als 65.536 festgelegt ist, oder mit continuation_token in benutzerdefinierten Schleifen.
Ersetzen Sie thinking_budget und thinking_level="MINIMAL" (beide geben einen HTTP-Fehler 400 zurück) durch thinking_level, das auf LOW, MEDIUM (Standardwert für gemini-4-argon) oder HIGH (Standardwert für gemini-4-argon-cyber-permissive) festgelegt ist.
Entfernen Sie explizite cached_content-Aufrufe. Platzieren Sie statische Prompt-Präfixe (6.144 Tokens oder mehr) am Anfang von Prompts für das automatische implizite Caching.
Entfernen Sie temperature, top_p, top_k, frequency_penalty, presence_penalty, candidate_count und vorausgefüllte model-Turns.
Ausführliche Informationen finden Sie unter Von Gemini 3.1 Pro migrieren und im Entwicklerhandbuch für Gemini 4 Argon.

Gemini 3 Flash (Vorabversion)

Modellname aktualisieren: gemini-3-flash-preview → gemini-3.5-flash.
Preise prüfen. Gemini 3.5 Flash ist teurer als Gemini 3 Flash (Vorabversion).
Entfernen Sie temperature, top_p, top_k aus Ihrer Konfiguration.
Ersetzen Sie thinking_budget durch thinking_level.
Testen Sie Ihre Prompts. Standardaufwand von high in medium geändert.
Die Fortführung der Logikschritte ist jetzt standardmäßig aktiviert. Der Kontext der Argumentation wird über mehrere Runden hinweg beibehalten.
Reduzieren Sie unnötige Toolaufrufe, indem Sie die Denkstufe anpassen oder Systemanweisungen hinzufügen.
Sycophancy-Verhalten reduzieren: Wenn gemini-3.5-flash Anzeichen von Sycophancy zeigt, können Sie versuchen, dieses Verhalten über die Systemanweisungen zu reduzieren, indem Sie Folgendes hinzufügen: - Keep your responses concise. - Provide a summary of your work when you end your turn. Ground your response in the work you did. Keep your tone professional and avoid overconfident language, bragging, or overclaiming success. - AVOID using superlatives such as "perfectly", "flawlessly", "100% correct", "Summary of Accomplishments" etc. to summarize your work for the user. Be humble. - AVOID over-the-top politeness or complimenting the user excessively. - Format your responses in github-style markdown.

Von Gemini 2.5

PDF- und Dokumentarbeitslasten testen Der Tokenverbrauch für PDFs kann sich erhöhen.
Prompts vereinfachen Verwenden Sie stattdessen thinking_level: "medium" oder "high" mit einfacheren Prompts anstelle von komplexen Chain-of-Thought-Prompts.
Kombinierte Tool-Nutzung (Suche, URL-Kontext, Codeausführung, Funktionen)
Multimodale Inhalte in Funktionsantwortteile verschieben.
Hängen Sie Inline-Anweisungen an den Antworttext der Funktion an.

Modellleistung verbessern

Beachten Sie bei der Migration die folgenden Tipps, um die bestmögliche Leistung des ausgewählten Gemini-Modells zu erzielen:

Für alle Gemini 3-Modelle sind die Sampling-Parameter (temperature, top_p und top_k) veraltet. Das Modell verwaltet seine eigene Stichprobenerhebung, um optimale Ergebnisse zu erzielen. Google empfiehlt, diese Parameter aus allen Anfragen zu entfernen.
Prüfen Sie Ihre Systemanweisungen, Prompts und Few-Shot-Learning-Beispiele auf Inkonsistenzen, Widersprüche oder irrelevante Anweisungen und Beispiele.
Leistungsstärkeres Modell testen Wenn Sie beispielsweise ein Flash Lite-Modell getestet haben, versuchen Sie es stattdessen mit einem Flash- oder Pro-Modell.
Prüfen Sie die Ergebnisse der automatischen Bewertung, um sicherzustellen, dass sie mit der menschlichen Beurteilung übereinstimmen, insbesondere bei Ergebnissen, die mit einem Beurteilungsmodell erzielt wurden. Achten Sie darauf, dass die Anweisungen für das Beurteilungsmodell klar, konsistent und eindeutig sind.
Wenn Sie die Anweisungen für das Judge-Modell verbessern möchten, testen Sie die Anweisungen mit mehreren Personen, die unabhängig voneinander arbeiten. Wenn Menschen die Anweisungen unterschiedlich interpretieren und unterschiedliche Bewertungen abgeben, sind die Anweisungen für das Judge-Modell unklar.
Modell-Feinabstimmung
Untersuchen Sie die Ausgaben der Bewertung auf Muster, die bestimmte Arten von Fehlern aufzeigen. Wenn Sie Fehler nach Modell, Typ oder Kategorie gruppieren, erhalten Sie gezieltere Bewertungsdaten. So können Sie Prompts leichter anpassen, um diese Fehler zu beheben.
Achten Sie darauf, verschiedene Komponenten der generativen KI unabhängig voneinander zu bewerten.
Experimentieren Sie mit der Anpassung der Token-Sampling-Parameter.

Hilfe

Wenn Sie Unterstützung benötigen, bietet Google Cloud Supportpakete für Ihre Anforderungen, etwa Rund-um-die-Uhr-Verfügbarkeit, Telefonsupport und Kontakt mit einem technischen Supportmanager. Weitere Informationen finden Sie unter Google Cloud Support.

Nächste Schritte

Anleitung