Übersicht über die Agent Platform

Vertex AI ist eine einheitliche, offene Plattform zum Erstellen, Bereitstellen und Skalieren von generativen KI- und ML-Modellen (maschinelles Lernen) sowie KI-Anwendungen. Sie bietet Zugriff auf Model Garden mit einem kuratierten Katalog von über 200 Modellen, darunter Foundation Models von Google (z. B. Gemini) und eine umfassende Auswahl an Partner- und Open-Source-Modellen sowie die zugrunde liegende TPU/GPU-Infrastruktur. Vertex AI unterstützt modernste GenAI-Workflows sowie KI-Inferenz-Workflows für MLOps. Die Plattform bietet End-to-End-MLOps-Tools und Steuerelemente auf Unternehmensniveau für Governance, Sicherheit und Compliance.

Wichtige Funktionen von Vertex AI

Vertex AI umfasst Tools und Dienste, die generative KI sowie KI-Inferenz- und ML-Workflows unterstützen.

Funktionen für generative KI

Vertex AI vereint ein umfassendes Toolset mit den fortschrittlichen Foundation Model-Tools von Google, mit denen Sie produktionsreife generative KI-Agents und ‑Anwendungen erstellen können:

  • Prompting: Beginnen Sie mit dem Prompt-Design in Vertex AI Studio. Vertex AI Studio umfasst Tools für das Prompt-Design und die Modellverwaltung, mit denen Sie generative KI-Anwendungen prototypisieren, erstellen und bereitstellen können.

  • Modelle: Vertex AI Model Garden ist ein zentraler Hub mit über 200 unternehmensfertigen Modellen von Google, führenden Drittanbietern (z. B. Claude von Anthropic) und beliebten Open-Source-Optionen (z. B. Llama).

    Diese Auswahl an Modellen umfasst Folgendes:

    • Foundation Models für generative KI von Google:

      • Gemini: Multimodale Funktionen für Text, Bilder, Video, und Audio sowie Denkfunktionen für Modelle wie Gemini 3 Flash und Gemini 3 Pro (mit Nano Banana).
      • **Imagen in Vertex AI**: Bilder generieren und bearbeiten.
      • Veo in Vertex AI: Videos aus Text und Bildern generieren.

    • Partner- und Open-Source-Modelle: Zugriff auf eine kuratierte Auswahl führender Modelle wie Claude von Anthropic, Modelle von Mistral AI und Llama mit einem hervorragenden Preis-Leistungs-Verhältnis. Diese Modelle sind als vollständig verwaltete Model as a Service (MaaS) APIs verfügbar.

  • Modellanpassung: Passen Sie Modelle an Ihr Unternehmen an, um einzigartige KI Assets zu erstellen. Das reicht von der Fundierung mit Ihren Unternehmensdaten oder der Google Suche, um Halluzinationen zu reduzieren, bis hin zur Verwendung von Vertex AI Training für die überwachte Feinabstimmung (Supervised Fine-Tuning, SFT) oder das parameter-effiziente Fine-Tuning (Parameter-Efficient Fine-Tuning, PEFT) von Modellen wie Gemini. Weitere Informationen zur Modell anpassung finden Sie unter Einführung in die Abstimmung.

  • Bewertungen für generative KI: Bewerten und vergleichen Sie die Leistung von Modellen und Agents objektiv mit dem Gen AI Evaluation Service. Sorgen Sie für Sicherheit und Compliance, indem Sie Laufzeit-Sicherheitsfunktionen wie Model Armor bereitstellen, um proaktiv auf neu auftretende Bedrohungen zu reagieren und sich davor zu schützen, wie Prompt Injection und Daten-Exfiltration.

  • Agent Builder: Vertex AI Agent Builder ist ein Full-Stack- System für die Agententransformation, mit dem Sie KI-Agents erstellen, verwalten und bereitstellen können. Mit dem Open-Source-Agent Development Kit (ADK) können Sie Agents erstellen und orchestrieren und sie dann in der verwalteten, serverlosen Vertex AI Agent Engine bereitstellen, um sie in der Produktion im großen Maßstab zu verwenden. Jedem Agent wird eine Agent-Identität (Identity and Access Management-Principal) für die Sicherheit und einen klaren Audit-Trail zugewiesen.

  • Zugriff auf externe Informationen: Verbessern Sie die Antworten des Modells, indem Sie mit Fundierung eine Verbindung zu zuverlässigen Quellen herstellen, mit Funktionsaufruf mit externen APIs interagieren und mit RAG Informationen aus Wissensdatenbanken abrufen.

  • Verantwortungsbewusste Anwendung von KI und Sicherheit: Verwenden Sie integrierte Sicherheitsfunktionen, um schädliche Inhalte zu blockieren und eine verantwortungsbewusste Nutzung von KI zu gewährleisten.

Weitere Informationen zu generativer KI in Vertex AI finden Sie in der Dokumentation unter Übersicht über die Unterstützung generativer KI für Vertex AI.

Funktionen für KI-Inferenz

Vertex AI bietet Tools und Dienste für jede Phase des ML-Workflows:

  1. Datenvorbereitung: Erheben, bereinigen und transformieren Sie Ihre Daten.

  2. Modelltraining: Trainieren Sie Ihr ML-Modell.

    • Wählen Sie zwischen AutoML für das Training ohne Code oder benutzerdefiniertem Training für die vollständige Kontrolle.
    • Verwalten und vergleichen Sie Trainingsläufe mit Vertex AI Experiments.
    • Registrieren Sie trainierte Modelle in der Vertex AI Model Registry.
    • Vertex AI Training bietet sowohl serverloses Training als auch Trainingscluster.
      • Mit dem serverlosen Training von Vertex AI können Sie Ihren benutzerdefinierten Trainingscode bei Bedarf in einer vollständig verwalteten Umgebung ausführen. Weitere Informationen finden Sie in der [Übersicht zum serverlosen Training von Vertex AI][serverless].
      • Verwenden Sie Vertex AI-Trainingscluster für große Jobs, die eine garantierte Kapazität in dedizierten, reservierten Beschleunigerclustern erfordern. Weitere Informationen finden Sie in der Übersicht zu Vertex AI-Trainingsclustern overview.
    • Mit Ray in Vertex AI können Sie Python- und ML-Arbeitslasten mit dem Open-Source-Framework Ray in einem verwalteten, interaktiven Cluster skalieren. Weitere Informationen finden Sie in der Übersicht zu Ray in Vertex AI.
    • Verwenden Sie Vertex AI Vizier, um Modell-Hyperparameter in komplexen ML-Modellen anzupassen.

  3. Modellbewertung und -iteration: Bewerten und verbessern Sie die Modellleistung.

  4. Modellbereitstellung: Stellen Sie Ihr Modell bereit und rufen Sie Inferenzdaten ab.

  5. Modellmonitoring: Verfolgen Sie die Leistung des bereitgestellten Modells im Zeitverlauf.

Abbildung des Workflows für maschinelles Lernen

MLOps-Tools

Automatisieren, verwalten und überwachen Sie Ihre ML-Projekte:

Nächste Schritte