Questo documento spiega come pianificare e progettare il cluster utilizzando i prompt di Gemini.
Compute Advisor è un'interfaccia basata sull'AI nella Google Cloud console, basata su Gemini, che ti aiuta a valutare le opzioni hardware, stimare i costi di deployment e visualizzare le configurazioni consigliate per i tuoi cluster. Per personalizzare i suggerimenti, Gemini valuta il tuo Google Cloud progetto controllando i limiti di quota, le prenotazioni esistenti, gli sconti per impegno di utilizzo (CUD), la regione e la zona predefinite, e qualsiasi vincolo di località delle risorse. Utilizzando Gemini per la pianificazione, puoi raggiungere un a configurazione ottimale per il tuo workload prima di creare o modificare un cluster GKE.
Per saperne di più sui componenti che devi configurare prima o durante la creazione di un cluster GKE, consulta la panoramica di GKE.
Limitazioni
Quando utilizzi i prompt di Gemini nella Google Cloud console, non puoi creare, modificare o eliminare le risorse.
Prima di iniziare
Quando utilizzi la Google Cloud console per accedere a Google Cloud servizi e API, non devi configurare l'autenticazione.
Ruoli obbligatori
Per ottenere le autorizzazioni necessarie per accedere a Gemini e utilizzare i prompt, chiedi all'amministratore di concederti il ruolo IAM Visualizzatore di cluster Kubernetes Engine (roles/container.clusterViewer) nel progetto.
Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.
Questo ruolo predefinito include le autorizzazioni necessarie per accedere a Gemini e utilizzare i prompt. Per vedere quali sono esattamente le autorizzazioni richieste, espandi la sezione Autorizzazioni obbligatorie:
Autorizzazioni obbligatorie
Per accedere a Gemini e utilizzare i prompt sono necessarie le seguenti autorizzazioni:
-
Per visualizzare un elenco di cluster:
container.clusters.list
Potresti anche ottenere queste autorizzazioni con ruoli personalizzati o altri ruoli predefiniti.
Accedere a Gemini nella Google Cloud console
Per accedere a Gemini nella Google Cloud console, segui questi passaggi:
Nella Google Cloud console, vai alla pagina Panoramica.
Nella sezione Progetta la tua infrastruttura con Compute Advisor, puoi visualizzare quanto segue:
Gli elementi dell'interfaccia utente visualizzati nello screenshot precedente sono i seguenti:
Schede dei prompt di azione rapida: un insieme di schede che contengono ciascuna un prompt di esempio. Se fai clic su una scheda, la Google Cloud console compila automaticamente la casella del prompt con il prompt di esempio.
Casella del prompt: questo campo ti consente di inserire e inviare i prompt. Per inviare un prompt, fai clic su Invia prompt.
Visualizza conversazioni precedenti: questa funzionalità ti consente di visualizzare i dettagli di una conversazione precedente e riprenderla oppure eliminare le conversazioni se non ne hai più bisogno.
Riquadro laterale della cronologia delle conversazioni: mostra le chat recenti. Questo riquadro è visibile solo dopo aver iniziato a utilizzare i prompt dalla pagina Panoramica. Puoi interagire con questo riquadro nel seguente modo:
Per avviare una nuova conversazione, fai clic su Nuova chat.
Per riprendere una conversazione recente, fai clic sulla conversazione nella sezione Chat recenti.
Per visualizzare un elenco di tutte le conversazioni, fai clic su Visualizza tutto. Nella pagina La mia cronologia , puoi visualizzare i dettagli di una conversazione precedente e riprenderla oppure eliminare le conversazioni se non ne hai più bisogno.
Utilizzare i prompt di Gemini
Dopo aver inviato un prompt, Gemini inizia a generare una risposta. Viene visualizzato un riquadro e Google Cloud la console mostra la risposta al prompt nel riquadro, come mostrato nello screenshot seguente:
In base al prompt, il riquadro della risposta include i seguenti elementi:
Grounding contestuale: Gemini valuta automaticamente il contesto del progetto per fornire suggerimenti altamente personalizzati, inclusi limiti di quota, prenotazioni esistenti, CUD, regione e zona predefinite e qualsiasi vincolo di località delle risorse.
Snippet di codice interattivi: Gemini genera comandi gcloud, metodi API REST o risorse Terraform. Puoi copiare e incollare questi snippet di codice o eseguirli in Cloud Shell.
Canvas visivo: Gemini organizza i suggerimenti in tabelle strutturate e confronti affiancati. Questa visualizzazione ti aiuta a valutare le funzionalità del prodotto e gli approcci architetturali. Fornisce anche un piano di implementazione per il tuo caso d'uso.
Le sezioni seguenti descrivono le best practice per la scrittura dei prompt e i prompt di esempio che puoi utilizzare prima di creare o modificare un cluster GKE.
Best practice per i prompt
Per ottenere i suggerimenti più accurati e utili da Gemini, ti consigliamo di strutturare i prompt nello stesso modo in cui faresti con un blocco di codice. Questo approccio guida l'AI generativa utilizzando dichiarazioni di parametri chiare, definizioni di ruoli, istruzioni specifiche e formati di output espliciti.
Quando utilizzi i prompt di Gemini, tieni presente le seguenti best practice:
Concentrati sulla progettazione e sulla pianificazione: ti consigliamo di non utilizzare i prompt di Gemini per la risoluzione dei problemi relativi agli errori cluster GKE. Per risolvere questi errori, consulta invece Risoluzione dei problemi di GKE.
Specifica un utente tipo o un ruolo: dichiara un ruolo o un utente tipo di destinazione, ad esempio un amministratore IT, un ricercatore di AI o un ingegnere di piattaforma, che Gemini deve adottare. Questo approccio guida il tono, la profondità e il livello di competenza dei suggerimenti risultanti.
Fornisci istruzioni esplicite e numerate: suddivide l'obiettivo in domande o attività concrete e passo passo. Questo approccio struttura il processo di ragionamento di Gemini e contribuisce a garantire che Gemini soddisfi tutti i tuoi requisiti.
Definisci un formato di output specifico: indica esplicitamente il formato in cui vuoi che venga visualizzato il suggerimento, ad esempio una spiegazione dettagliata, una tabella di confronto Markdown o un blocco di codice gcloud pronto all'uso.
Sfrutta il grounding contestuale automatico: non devi includere nel prompt la regione o la zona predefinita, le quote disponibili, i CUD o i vincoli di località delle risorse. Gemini può accedere a queste informazioni nel tuo Google Cloud progetto.
Perfeziona in modo iterativo i tuoi progetti: puoi modificare o espandere la risposta generata da Gemini inviando nuovi prompt. Ad esempio, puoi chiedere all'assistente di aggiungere suggerimenti di rete al piano di deployment o di modificare i requisiti di archiviazione senza avviare una nuova conversazione.
Prompt di esempio
Di seguito sono riportati alcuni esempi di prompt che puoi utilizzare per progettare e ottimizzare il cluster GKE:
Topologia del cluster e configurazione pool di nodi pool: per determinare la modalità GKE, i tipi di macchine e le configurazioni pool di nodi ottimali per un workload, utilizza un prompt come il seguente:
Act as a cloud architect. I need to design a GKE cluster topology for a scalable microservices application that requires both GPU nodes for AI inference and CPU nodes for general-purpose APIs. Please provide the following: 1. A comparison of running this workload on GKE Autopilot versus GKE Standard. 2. Recommendations for GKE machine types for the GPU node pool. 3. The optimal autoscaling and auto-provisioning settings. Format the comparison as a Markdown table, and provide the cluster creation steps as a ready-to-use gcloud CLI command.Modello di provisioning e ottimizzazione dei costi: per valutare i modelli di provisioning e ottimizzare l'utilizzo delle risorse per i workload di elaborazione batch, utilizza un prompt come il seguente:
Act as an IT administrator. I need to design a cost-optimized GKE cluster to run large-scale batch processing workloads that are fault-tolerant. Please provide the following: 1. A cost and reliability comparison of using Spot VMs versus standard VMs in GKE node pools. 2. An explanation of how to configure Kueue for queueing training jobs. 3. A manifest snippet configuration to deploy the workloads onto Spot VM nodes. Format the comparison as a Markdown table, and provide the manifest as a ready-to-use code block.