Prognosecluster erstellen

Sie müssen Ihre benutzerdefinierten Vorhersageressourcen im Vorhersagecluster bereitstellen, den der Infrastrukturoperator (IO) für Sie erstellt. Der Operator erstellt Vorhersagearbeitslasten in demselben Cluster.

Wenn Sie den Vorhersagecluster erstellen möchten, müssen Sie mit dem IO zusammenarbeiten, um Ihr Vorhersageprojekt zu verknüpfen und die Knotenpools zuzuweisen, die für Onlinevorhersagen in Google Distributed Cloud (GDC) mit Air Gap erforderlich sind.

Hinweis

Sie benötigen die erforderlichen Berechtigungen, um ein Projekt einzurichten und Vorhersageressourcen im Vorhersagecluster bereitzustellen.

IAM-Organisationsrollen anfordern

Wenden Sie sich an den IAM-Admin Ihrer Organisation, um die folgende Rolle anzufordern:

  • Projektersteller (project-creator): Erstellen Sie ein neues Projekt in Ihrer Organisation.

IAM-Projektrollen anfordern

Wenden Sie sich an Ihren IAM-Projektadministrator, um die folgende Rolle in Ihrem Projekt-Namespace anzufordern:

  • Vertex AI Prediction Admin (vertex-ai-prediction-admin): Ressourcen verwalten, die zum Bereitstellen von Modellen mit Online Prediction verwendet werden.

Weitere Informationen zu diesen Rollen finden Sie unter IAM-Berechtigungen vorbereiten.

Vorhersagecluster anfordern

So erstellen Sie einen Vorhersagecluster:

  1. Identifizieren Sie das Projekt in Ihrer Organisation, das Sie mit dem neuen Cluster für Onlinevorhersagen verknüpfen möchten.

    Informationen zum Erstellen eines Projekts finden Sie unter Projekt für Vertex AI einrichten. Sie benötigen Ihre Projekt-ID, wenn Sie API-Aufrufe ausführen.

  2. Wählen Sie in der Liste der verfügbaren Maschinentypen in Distributed Cloud den Maschinentyp für die Knoten aus, die Ihre Arbeitslasten im Cluster benötigen.

    Der von Ihnen ausgewählte Maschinentyp hängt von der Größe und Komplexität Ihres Vorhersagemodells ab und bestimmt die Rechen- und Grafikprozessorressourcen (GPU), die Ihre IO dem Cluster bereitstellt. Folgen Sie bei der Auswahl des Maschinentyps für Ihre Knoten den Empfehlungen zur Knotenauswahl.

  3. Senden Sie eine E-Mail an den IO mit der Fallvorlage für Vorhersagecluster, um einen Fall zu öffnen und Ihre Anfrage zur Erstellung des Clusters zu stellen.

  4. Kommunizieren Sie bei Bedarf mit dem IO, bis er den mit Ihrem Projekt verknüpften Vorhersagecluster erstellt und die entsprechenden Knotenpools im Cluster zugewiesen hat.

Nach Abschluss der Clusterbereitstellung ist der Vorhersagecluster für Onlinevorhersagen bereit.

Empfehlungen zur Knotenauswahl

Wenn der IO Knotenpools in einem Cluster erstellt, weist er einen der verfügbaren Maschinentypen in Distributed Cloud zu, um einen vordefinierten Satz von Ressourcen für die Worker-Knoten bereitzustellen. Je nach Modellgröße und -komplexität benötigen Sie unterschiedliche Rechenleistungen und daher eine bestimmte Menge an CPU, Arbeitsspeicher und GPU. Sie müssen diese Details in Ihrer Kommunikation mit dem IO angeben, wenn Sie einen Vorhersagecluster erstellen möchten.

Wenn Sie mit dem IO den Maschinentyp für Knotenpools bestimmen, die Sie im Vorhersagecluster benötigen, müssen Sie die folgenden Best Practices beachten:

  • Distributed Cloud fügt den Knoten für obligatorische Systemkomponenten Rechenaufwand hinzu. Daher müssen Sie für Ihre Knotenpools einen größeren Maschinentyp auswählen als den, den Sie im Ressourcenpool für Ihre Modelle verwenden möchten.
  • Wählen Sie die Lösung aus, die die Mindestanforderungen an Arbeitsspeicher und Rechenressourcen für Ihre Anforderungen bietet. Wenn Ihr Modell beispielsweise acht vCPUs benötigt, wählen Sie den Maschinentyp n2-highcpu-8-gdc aus, die kleinste Lösung mit acht vCPUs und 8 GB Arbeitsspeicher in Distributed Cloud.
  • Ziehen Sie im weiteren Verlauf leistungsstärkere Lösungen nur dann in Betracht, wenn kleinere Lösungen für Ihre Anforderungen sowie die Größe und Komplexität des Modells nicht ausreichen. Es ist wichtig, das Prinzip der geringsten Berechtigung einzuhalten und nur die Ressourcen zu verwenden, die Sie für die Ausführung Ihres spezifischen Workflows benötigen. Dieser verantwortungsvolle Ansatz sorgt für eine rücksichtsvolle Nutzung von Ressourcen in der Distributed Cloud-Umgebung.
  • Wählen Sie nur Lösungen mit GPUs aus, wenn Sie diese für Ihr Modell benötigen.
  • Wenn Ihr Modell GPUs erfordert, sollten Sie den Maschinentyp a2-highgpu-1g-gdc in Betracht ziehen, die kleinste Lösung mit GPUs.

Fallvorlage für Vorhersagecluster

Verwenden Sie die folgende Vorlage, um eine E‑Mail an Ihre IO zu senden. Mit der E-Mail wird eine Anfrage zum Erstellen des Vorhersageclusters geöffnet, den Sie für Onlinevorhersagen benötigen.

Good day,

I need to create a prediction cluster and associate it with a project in my organization to use online predictions.

Please use the following information for the creation of the cluster:

- **Cluster name:** vtx-ai-prediction
- **Name of the organization:** [Specify your organization's name.]
- **Project name:** [Specify the name of your project to associate with the prediction cluster.]
- **Machine type for the node pool:** [Specify the machine type you chose from the list of available machine types for the cluster nodes based on node selection recommendations. Please note that the IO can respond with a different suggestion based on your needs.]
- **Compute resources:** [Optionally, if you know how many compute resources your workloads need, describe them in this field.]
- **Memory resources:** [Optionally, if you know how many memory resources your workloads need, describe them in this field.]
- **GPU resources:** [Optionally, if you know how many GPU resources your workloads need, describe them in this field.]

**Note for IO:** Review the instructions to create the prediction cluster in the following section of the documentation: Operator > Configure the deployment > Create the Prediction cluster

Thank you,
[Your name]