In diesem Dokument wird erläutert, wie Sie Ihren Cluster planen und entwerfen, indem Sie Prompts an Gemini senden.
Compute Advisor ist eine KI-gestützte Benutzeroberfläche in der Google Cloud Console, die von Gemini unterstützt wird. Sie hilft Ihnen, Hardwareoptionen zu bewerten, Bereitstellungskosten zu schätzen und empfohlene Konfigurationen für Ihre Cluster anzusehen. Um die Empfehlungen anzupassen, wertet Gemini Ihr Google Cloud Projekt aus. Dabei werden Kontingentlimits, vorhandene Reservierungen, Rabatte für zugesicherte Nutzung (Committed Use Discounts, CUDs), die Standardregion und ‑zone, sowie alle Einschränkungen für den Ressourcenstandortberücksichtigt. Wenn Sie Gemini bei der Planung verwenden, können Sie eine optimale Konfiguration für Ihre Arbeitslast erreichen, bevor Sie einen GKE-Cluster erstellen oder ändern.
Weitere Informationen zu den Komponenten, die Sie vor oder beim Erstellen eines GKE-Cluster konfigurieren müssen, finden Sie unter GKE-Übersicht.
Beschränkungen
Wenn Sie Prompts an Gemini in der Google Cloud Console senden, können Sie keine Ressourcen erstellen, ändern oder löschen.
Hinweis
Wenn Sie über die Google Cloud Console auf Google Cloud Dienste und APIs zugreifen, müssen Sie die Authentifizierung nicht einrichten.
Erforderliche Rollen
Bitten Sie Ihren Administrator, Ihnen die IAM-Rolle „Kubernetes Engine-Clusterbetrachter “ (roles/container.clusterViewer) für das Projekt zuzuweisen, um die Berechtigungen zu erhalten, die
Sie für den Zugriff auf Gemini und das Senden von Prompts an Gemini
benötigen.
Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.
Diese vordefinierte Rolle enthält die Berechtigungen, die für den Zugriff auf Gemini und das Senden von Prompts an Gemini erforderlich sind. Maximieren Sie den Abschnitt Erforderliche Berechtigungen , um die notwendigen Berechtigungen anzuzeigen, die erforderlich sind:
Erforderliche Berechtigungen
Die folgenden Berechtigungen sind für den Zugriff auf Gemini und das Senden von Prompts an Gemini erforderlich:
-
Liste der Cluster ansehen:
container.clusters.list
Sie können diese Berechtigungen auch mit benutzerdefinierten Rollen oder anderen vordefinierten Rollen erhalten.
Auf Gemini in der Google Cloud Console zugreifen
So greifen Sie in der Google Cloud Console auf Gemini zu:
Rufen Sie in der Google Cloud Console die Seite Übersicht auf.
Im Abschnitt Infrastruktur mit Compute Advisor gestalten können Sie Folgendes sehen:
Die UI-Elemente, die im vorherigen Screenshot angezeigt werden, sind folgende:
Prompt-Karten für Schnellaktionen: Eine Reihe von Karten, die jeweils einen Beispiel prompt enthalten. Wenn Sie auf eine Karte klicken, wird die Google Cloud Console automatisch mit dem Beispielprompt gefüllt.
Prompt-Feld: In diesem Feld können Sie Prompts eingeben und senden. Klicken Sie auf Prompt senden, um einen Prompt zu senden.
Vorherige Unterhaltungen ansehen: Mit dieser Funktion können Sie die Details einer früheren Unterhaltung ansehen und sie fortsetzen oder Unterhaltungen löschen, wenn Sie sie nicht mehr benötigen.
Seitenleiste „Unterhaltungsverlauf“: Hier werden Ihre letzten Chats angezeigt. Diese Seitenleiste ist nur sichtbar, nachdem Sie auf der Seite Übersicht Prompts gesendet haben. Sie können auf folgende Weise mit dieser Seitenleiste interagieren:
Wenn Sie eine neue Unterhaltung beginnen möchten, klicken Sie auf Neuer Chat.
Wenn Sie eine aktuelle Unterhaltung fortsetzen möchten, klicken Sie im Abschnitt Letzte Chats auf die Unterhaltung.
Wenn Sie eine Liste aller Unterhaltungen aufrufen möchten, klicken Sie auf Alle ansehen. Auf der Seite Mein Verlauf können Sie die Details einer früheren Unterhaltung ansehen und sie fortsetzen oder Unterhaltungen löschen, wenn Sie sie nicht mehr benötigen.
Prompts an Gemini senden
Nachdem Sie einen Prompt gesendet haben, beginnt Gemini mit der Generierung einer Antwort. Ein Bereich wird angezeigt und Google Cloud dieConsole zeigt die Antwort auf Ihren Prompt in diesem Bereich an, wie im folgenden Screenshot zu sehen:
Je nach Prompt enthält der Antwortbereich die folgenden Elemente:
Kontextbezogene Informationen: Gemini wertet automatisch den Kontext Ihres Projekts aus, um hochgradig angepasste Empfehlungen zu geben, einschließlich Kontingent limits, vorhandener Reservierungen, CUDs, Ihrer Standardregion und ‑zone sowie aller Einschränkungen für den Ressourcenstandort.
Interaktive Code-Snippets: Gemini generiert gcloud-Befehle, REST API-Methoden oder Terraform-Ressourcen. Sie können diese Code-Snippets kopieren und einfügen oder in Cloud Shell ausführen.
Visuelle Canvas: Gemini organisiert Empfehlungen in strukturierten Tabellen und nebeneinanderliegenden Vergleichen. Diese Ansicht hilft Ihnen, Produktfunktionen und Architekturansätze zu bewerten. Außerdem wird ein Implementierungsplan für Ihren Anwendungsfall bereitgestellt.
In den folgenden Abschnitten werden die Best Practices für das Schreiben von Prompts und Beispielprompts beschrieben, die Sie verwenden können, bevor Sie einen GKE-Cluster erstellen oder ändern.
Best Practices für Prompts
Damit Sie von Gemini möglichst genaue und umsetzbare Empfehlungen erhalten, empfehlen wir, Ihre Prompts so zu strukturieren wie einen Codeblock. Dieser Ansatz leitet die generative KI durch klare Parameterdeklarationen, Rollendefinitionen, spezifische Anweisungen und explizite Ausgabeformate.
Beachten Sie beim Senden von Prompts an Gemini die folgenden Best Practices:
Konzentrieren Sie sich auf Design und Planung: Wir empfehlen, Gemini nicht nach Lösungen für GKE-Cluster fehler zu fragen. Informationen zur Behebung dieser Fehler finden Sie unter Fehlerbehebung bei GKE.
Rolle oder Persona angeben: Definieren Sie eine Zielrolle oder Persona, z. B. einen IT-Administrator, KI-Forscher oder Plattformtechniker, die Gemini annehmen soll. Dieser Ansatz bestimmt den Ton, die Tiefe und das Fachwissen der resultierenden Empfehlungen.
Explizite, nummerierte Anweisungen geben: Teilen Sie Ihr Ziel in konkrete, schrittweise Fragen oder Aufgaben auf. Dieser Ansatz strukturiert den Denkprozess von Gemini und trägt dazu bei, dass alle Ihre Anforderungen erfüllt werden.
Bestimmtes Ausgabeformat definieren: Geben Sie explizit an, wie die Empfehlung formatiert werden soll, z. B. als Schritt-für-Schritt-Anleitung, als Markdown-Vergleichstabelle oder als gebrauchsfertiger gcloud-Code block.
Automatische Kontextinformationen nutzen: Sie müssen Ihre Standardregion oder ‑zone, verfügbaren Kontingente, CUDs oder Einschränkungen für den Ressourcenstandort nicht in den Prompt aufnehmen. Gemini kann auf diese Informationen in Ihrem Google Cloud Projekt zugreifen.
Designs iterativ optimieren: Sie können die Antwort ändern oder erweitern, die von Gemini generiert wurde, indem Sie neue Prompts senden. Sie können den Assistenten beispielsweise bitten, Ihrem Bereitstellungsplan Netzwerkanforderungen hinzuzufügen oder die Speicheranforderungen zu ändern, ohne eine neue Unterhaltung zu starten.
Prompt-Beispiele
Im Folgenden finden Sie Beispiele für Prompts, mit denen Sie Ihren GKE-Cluster entwerfen und optimieren können:
Clustertopologie und Knotenpoolkonfiguration: Verwenden Sie einen Prompt wie den folgenden, um den optimalen GKE-Modus, die optimalen Maschinentypen und die optimalen Knotenpoolkonfigurationen für eine Arbeitslast zu ermitteln:
Act as a cloud architect. I need to design a GKE cluster topology for a scalable microservices application that requires both GPU nodes for AI inference and CPU nodes for general-purpose APIs. Please provide the following: 1. A comparison of running this workload on GKE Autopilot versus GKE Standard. 2. Recommendations for GKE machine types for the GPU node pool. 3. The optimal autoscaling and auto-provisioning settings. Format the comparison as a Markdown table, and provide the cluster creation steps as a ready-to-use gcloud CLI command.Bereitstellungsmodell und Kostenoptimierung: Verwenden Sie einen Prompt wie den folgenden, um Bereitstellungs modelle zu bewerten und die Ressourcennutzung für Batchverarbeitungsarbeitslasten zu optimieren:
Act as an IT administrator. I need to design a cost-optimized GKE cluster to run large-scale batch processing workloads that are fault-tolerant. Please provide the following: 1. A cost and reliability comparison of using Spot VMs versus standard VMs in GKE node pools. 2. An explanation of how to configure Kueue for queueing training jobs. 3. A manifest snippet configuration to deploy the workloads onto Spot VM nodes. Format the comparison as a Markdown table, and provide the manifest as a ready-to-use code block.