Bereitstellung eines Modells aufheben und den Endpunkt löschen

Verwenden Sie eine der folgenden Methoden, um die Bereitstellung eines Modells aufzuheben und den Endpunkt zu löschen:

Wenn Sie ein Modell an einem Endpunkt ersetzen, nachdem Sie den Traffic auf eine neue Modellversion umgestellt haben (z. B. bei automatisierten CI/CD-Rollouts), sollten Sie nach dem Aktualisieren der Traffic-Aufteilung auf 100% mindestens 10 bis 15 Minuten warten, bevor Sie undeploy-model initiieren. In diesem Zeitraum können laufende Inferenzanfragen abgeschlossen werden und regionale Routingkonfigurationen werden vollständig synchronisiert, bevor die Ressourcen des vorherigen Modells freigegeben werden.

Google Cloud Console

  1. Heben Sie die Bereitstellung des Modells so auf:

    1. Rufen Sie in der Google Cloud Console im Abschnitt „Agent Platform“ die Seite Endpunkte auf.

      Zur Seite „Endpunkte”

    2. Klicken Sie auf den Namen und die Versions-ID des Modells, dessen Bereitstellung Sie aufheben möchten, um die Detailseite zu öffnen.

    3. Klicken Sie in der Zeile für Ihr Modell auf  Aktionen und dann auf Bereitstellung des Modells am Endpunkt aufheben.

    4. Klicken Sie im Dialogfeld Bereitstellung des Endpunkts aufheben auf Bereitstellung aufheben.

    5. Wenn Sie weitere Modelle löschen möchten, wiederholen Sie die vorherigen Schritte.

  2. Optional: So löschen Sie den Endpunkt für Onlineinferenz:

    1. Rufen Sie in der Google Cloud Console im Abschnitt Gemini Enterprise Agent Platform die Seite Onlinevorhersage auf.

      Zur Onlinevorhersage

    2. Wählen Sie den Endpunkt aus.

    3. Klicken Sie zum Löschen des Endpunkts auf Aktionen und dann auf Endpunkt löschen.

gcloud

  1. So listen Sie die Endpunkt-IDs für alle Endpunkte in Ihrem Projekt auf:

    gcloud ai endpoints list \
    --project=PROJECT_ID \
    --region=LOCATION_ID

    Ersetzen Sie PROJECT_ID durch Ihren Projektnamen und LOCATION_ID durch die Region, in der Sie die Gemini Enterprise Agent Platform verwenden.

  2. Geben Sie die Modell-IDs für die Modelle an, die auf einem Endpunkt bereitgestellt sind:

    gcloud ai endpoints describe ENDPOINT_ID \
    --project=PROJECT_ID \
    --region=LOCATION_ID

    Ersetzen Sie ENDPOINT_ID durch die Endpunkt-ID.

  3. So heben Sie die Bereitstellung eines Modells am Endpunkt auf:

    gcloud ai endpoints undeploy-model ENDPOINT_ID \
    --project=PROJECT_ID \
    --region=LOCATION_ID \
    --deployed-model-id=DEPLOYED_MODEL_ID

    Ersetzen Sie DEPLOYED_MODEL_ID durch die Modell-ID.

  4. Optional: Löschen Sie den Endpunkt für Onlineinferenz:

    gcloud ai endpoints delete ENDPOINT_ID \
    --project=PROJECT_ID \
    --region=LOCATION_ID