Ottimizza un modello

Questa pagina mostra come interagire con Vertex AI per ottimizzare un modello utilizzando il riquadro laterale in Colab Enterprise.

Per accedere a Google Cloud servizi e API eseguendo il codice nel blocco note Colab Enterprise, puoi utilizzare le credenziali associate al tuo Account Google. Per saperne di più, consulta Accedi a Google Cloud servizi e API.

Il riquadro laterale è un modo aggiuntivo per interagire con Vertex AI per ottimizzare i modelli senza uscire dall'interfaccia di Colab Enterprise.

Il riquadro laterale viene visualizzato a destra di un blocco note aperto.

Ottimizzazione dei modelli in Vertex AI

L'ottimizzazione dei modelli è un modo efficace per personalizzare i modelli di grandi dimensioni in base alle tue attività. È un passaggio fondamentale per migliorare la qualità e l'efficienza del modello. L'ottimizzazione dei modelli offre i seguenti vantaggi:

  • Qualità superiore per le tue attività specifiche
  • Maggiore robustezza del modello
  • Latenza e costi di inferenza inferiori grazie a prompt più brevi

Per una panoramica dell'ottimizzazione dei modelli di Vertex AI per Gemini, consulta Introduzione all' ottimizzazione.

Prima di iniziare

  1. Accedi al tuo Google Cloud account. Se non conosci Google Cloud, crea un account per valutare le prestazioni dei nostri prodotti in scenari reali. I nuovi clienti ricevono anche 300 $di crediti senza costi per l'esecuzione, il test e il deployment dei workload.

  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  3. Verify that billing is enabled for your Google Cloud project.

  4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Roles required to enable APIs

    To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

    Enable the APIs

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  6. Verify that billing is enabled for your Google Cloud project.

  7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Roles required to enable APIs

    To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

    Enable the APIs

    8.

Ruoli obbligatori

Per ottenere le autorizzazioni necessarie per utilizzare il riquadro laterale in un blocco note Colab Enterprise, chiedi all'amministratore di concederti i seguenti ruoli IAM sul progetto:

Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.

Potresti anche riuscire a ottenere le autorizzazioni richieste tramite i ruoli personalizzati o altri ruoli predefiniti.

Ottimizza un modello

Puoi ottimizzare un modello in Vertex AI utilizzando il riquadro laterale in Colab Enterprise.

  1. Nella Google Cloud console, vai a alla pagina I miei blocchi note di Colab Enterprise.

    Vai a I miei blocchi note

  2. Nel menu Regione, seleziona la regione che contiene il blocco note.

  3. Fai clic sul blocco note che vuoi aprire. Se non hai ancora creato un blocco note, creane uno.

  4. A destra del blocco note, nel riquadro laterale, fai clic sul pulsante  Ottimizzazione.

    Il riquadro laterale espande la scheda Ottimizzazione.

  5. Fai clic sul pulsante Ottimizza un modello Gemini.

    Colab Enterprise aggiunge celle di codice al blocco note per l'ottimizzazione di un modello Gemini.

  6. Nel blocco note, trova la cella di codice che memorizza i valori dei parametri. Utilizzerai questi parametri per interagire con Vertex AI.

  7. Aggiorna i valori dei seguenti parametri:

    • PROJECT_ID: l'ID del progetto in cui si trova il blocco note.
    • REGION: la regione in cui si trova il blocco note.
    • TUNED_MODEL_DISPLAY_NAME: il nome del modello ottimizzato.

  8. Nella cella di codice successiva, aggiorna i parametri di ottimizzazione del modello:

    • source_model: il modello Gemini che vuoi utilizzare, ad esempio gemini-2.0-flash-001.
    • train_dataset: l'URL del set di dati di addestramento.
    • validation_dataset: l'URL del set di dati di convalida.
    • Modifica i parametri rimanenti in base alle esigenze.

  9. Esegui le celle di codice che il riquadro laterale ha aggiunto al blocco note.

  10. Dopo l'esecuzione dell'ultima cella di codice, fai clic sul pulsante  Visualizza job di ottimizzazione visualizzato.

  11. Il riquadro laterale mostra informazioni sul job di ottimizzazione del modello.

    • La scheda Monitora mostra le metriche di ottimizzazione quando le metriche sono pronte.
    • La scheda Set di dati mostra un riepilogo e le metriche del set di dati dopo l'elaborazione.
    • La scheda Dettagli mostra informazioni sul job di ottimizzazione, come il metodo di ottimizzazione e il modello di base (modello di origine) che hai utilizzato.

  12. Al termine del job di ottimizzazione, puoi passare direttamente dalla scheda Dettagli ottimizzazione a una pagina in cui puoi testare il modello. Fai clic su Test.

    La Google Cloud console si apre alla pagina Chat di testo di Vertex AI, dove puoi testare il modello.

Visualizza i dettagli di un job di ottimizzazione

Puoi visualizzare i dettagli di un job di ottimizzazione, anche se non l'hai creato ed eseguito in Colab Enterprise. Puoi visualizzare i dettagli di un job di ottimizzazione utilizzando il riquadro laterale in Colab Enterprise.

  1. Nella Google Cloud console, vai a alla pagina I miei blocchi note di Colab Enterprise.

    Vai a I miei blocchi note

  2. Nel menu Regione, seleziona la regione che contiene il blocco note.

  3. Fai clic sul blocco note che vuoi aprire. Se non hai ancora creato un blocco note, creane uno.

  4. A destra del blocco note, nel riquadro laterale, fai clic sul pulsante  Ottimizzazione.

    Il riquadro laterale espande la scheda Ottimizzazione.

  5. Fai clic sul pulsante Visualizza dettagli job di ottimizzazione.

    Colab Enterprise aggiunge celle di codice al blocco note per ottenere i dettagli di un job di ottimizzazione.

  6. Nel blocco note, trova la cella di codice che memorizza i valori dei parametri. Utilizzerai questi parametri per interagire con Vertex AI.

  7. Aggiorna i valori dei seguenti parametri:

    • PROJECT_ID: l'ID del progetto in cui si trova il blocco note.
    • REGION: la regione in cui si trova il blocco note.
    • TUNING_JOB_ID: l'ID del job di ottimizzazione di Vertex AI.

  8. Esegui le celle di codice che il riquadro laterale ha aggiunto al blocco note.

  9. Dopo l'esecuzione dell'ultima cella di codice, fai clic sul pulsante  Visualizza job di ottimizzazione visualizzato.

  10. Il riquadro laterale mostra informazioni sul job di ottimizzazione del modello.

    • La scheda Monitora mostra le metriche di ottimizzazione quando le metriche sono pronte.
    • La scheda Set di dati mostra un riepilogo e le metriche del set di dati dopo l'elaborazione.
    • La scheda Dettagli mostra informazioni sul job di ottimizzazione, come il metodo di ottimizzazione e il modello di base (modello di origine) che hai utilizzato.

Passaggi successivi