Glossar zu generativer KI

• Agent

  • Im Kontext von generativer KI ist ein Agent Software, die selbstständig eine Reihe von Aktionen zur Erreichung eines Ziels plant und ausführt, möglicherweise auch in neuartigen Situationen. Agenten können in verschiedenen Anwendungen eingesetzt werden, z. B. in Natural Language Processing, Machine Learning und Robotik. Ein LLM-Agent verwendet beispielsweise ein Language Model, um die Umgebung zu bewerten und eine Aktion auszuwählen, mit der er sein Ziel erreichen kann. LLM-Agents können verwendet werden, um Text zu generieren, Sprachen zu übersetzen und Fragen zu beantworten.

• API-Endpunkt

  • API-Endpunkte sind ein Dienstkonfigurationsaspekt, mit dem die Netzwerkadressen, auch Dienstendpunkte, angegeben werden (z. B. aiplatform.googleapis.com).

• Standardanmeldedaten für Anwendungen (Application Default Credentials, ADC)

  • Die Standardanmeldedaten für Anwendungen (Application Default Credentials, ADC) bieten eine einfache Möglichkeit, Autorisierungsanmeldedaten für den Aufruf von Google APIs abzurufen. Sie eignen sich am besten für Fälle, in denen der Aufruf unabhängig vom Nutzer dieselbe Identität und Autorisierungsstufe für die Anwendung haben muss. Dies ist die empfohlene Methode zum Autorisieren von Aufrufen an Google Cloud APIs, insbesondere wenn Sie eine Anwendung entwickeln, die in Google App Engine (GAE) oder auf Compute Engine-VMs bereitgestellt wird. Weitere Informationen finden Sie unter Funktionsweise von Standardanmeldedaten für Anwendungen.

• Annäherung an den nächsten Nachbarn (ANN)

  • Der ANN-Dienst (Approximate Nearest Neighbor) ist eine hochskalierbare Lösung mit niedriger Latenz, mit der ähnliche Vektoren (oder genauer gesagt „Einbettungen“) für einen großen Korpus gefunden werden können. Weitere Informationen finden Sie unter Vektorsuche für semantischen Abgleich verwenden.

• artifact

  • Ein Artefakt ist eine einzelne Entität oder ein Datenelement, das von einem ML-Workflow erzeugt und genutzt wird. Beispiele für Artefakte sind Datasets, Modelle, Eingabedateien und Trainingslogs.

• Artifact Registry

  • Artifact Registry ist ein universeller Artefaktverwaltungsdienst. Dies ist der empfohlene Dienst zum Verwalten von Containern und anderen Artefakten in Google Cloud. Weitere Informationen finden Sie unter Artifact Registry.

• Künstliche Intelligenz (KI)

  • Künstliche Intelligenz (KI) ist die Entwicklung und das Design von Maschinen, die scheinbar „intelligent“ sind, d. h. menschliche oder intellektuelle Funktionen wie mechanische Bewegung, Schlussfolgern oder Problemlösen nachahmen. Eines der beliebtesten Teilgebiete der KI ist das maschinelle Lernen, bei dem ein statistischer und datengestützter Ansatz verwendet wird, um KI zu entwickeln. Einige Nutzer verwenden diese beiden Begriffe jedoch synonym.

• Augmented Reality (AR)

  • Gerenderte digitale Inhalte werden mit Inhalten aus der realen Welt kombiniert, entweder über ein Display wie bei einem Smartphone oder als Overlay über die durch eine Optik wie eine Brille gesehene Welt. Die digitalen Inhalte sollten an die Bewegung der Kamera oder Brille (je nachdem, wie die Szene gerendert wird) angepasst werden, sodass sie als Teil der realen Welt erscheinen.

• authentication

  • Der Prozess der Überprüfung der Identität eines Clients (z. B. eines Nutzers oder eines anderen Prozesses), um auf ein gesichertes System zuzugreifen. Ein Client, der seine Identität nachgewiesen hat, wird als authentifiziert bezeichnet. Weitere Informationen finden Sie unter Authentifizierungsmethoden bei Google.

• Automatic Side-by-Side (AutoSxS)

  • Automatic Side-by-Side (AutoSxS) ist ein modellgestütztes Bewertungstool, mit dem Sie zwei große Sprachmodelle (LLMs) nebeneinander vergleichen können. Es kann verwendet werden, um die Leistung von generativen KI-Modellen in Vertex AI Model Registry oder vorab generierten Inferenzen zu bewerten. AutoSxS verwendet ein Autorater-Modell, um zu entscheiden, welches Modell die bessere Antwort auf einen Prompt liefert. AutoSxS ist auf Anfrage verfügbar und bewertet Sprachmodelle mit einer Leistung, die mit der von menschlichen Beurteilern vergleichbar ist.

• Automatische Spracherkennung (ASR,Speech-to-Text)

  • Automatische Transkription von gesprochener Sprache in Text.

• AutoML

  • Algorithmen für maschinelles Lernen, die durch Blackbox-Optimierung „lernen, zu lernen“. Weitere Informationen finden Sie im Glossar zum maschinellen Lernen.

• autorater

  • Ein Autorater ist ein Language Model, das die Qualität von Modellantworten anhand eines ursprünglichen Inferenz-Prompts bewertet. Er wird in der AutoSxS-Pipeline verwendet, um die Inferenz von zwei Modellen zu vergleichen und zu ermitteln, welches Modell am besten abgeschnitten hat. Weitere Informationen finden Sie unter Der Autorater.

• baseline

  • Ein Modell, das als Referenzpunkt für den Vergleich der Leistung eines anderen (in der Regel komplexeren) Modells verwendet wird. Ein logistisches Regressionsmodell kann beispielsweise eine gute Baseline für ein Deep-Learning-Modell sein. Für ein bestimmtes Problem hilft die Baseline den Modellentwicklern, die minimale erwartete Leistung zu quantifizieren, die ein neues Modell erreichen muss, damit es nützlich ist. Weitere Informationen finden Sie unter Baseline- und Ziel-Datasets.

• batch

  • Die Menge der Beispiele, die in einer Trainingsiteration verwendet werden. Die Batchgröße bestimmt die Anzahl der Beispiele in einem Batch.

• Batchgröße

  • Die Anzahl der Beispiele in einem Batch. Die Batchgröße von SGD ist beispielsweise 1, während die Batchgröße eines Minibatches in der Regel zwischen 10 und 1.000 liegt. Die Batchgröße ist während des Trainings und der Inferenz in der Regel festgelegt. TensorFlow ermöglicht jedoch dynamische Batchgrößen.

• Batch-Inferenz

  • Die Batchinferenz nimmt eine Gruppe von Inferenzanfragen auf und gibt die Ergebnisse in einer Datei aus. Weitere Informationen finden Sie unter Überblick: Inferenzen in Vertex AI abrufen.

• Bias

  • 1. Stereotypisierung, Vorurteile oder Bevorzugung bestimmter Dinge, Personen oder Gruppen gegenüber anderen. Diese Verzerrungen können sich auf die Erhebung und Interpretation von Daten, das Design eines Systems und die Interaktion von Nutzern mit einem System auswirken. 2. Systematischer Fehler, der durch ein Stichproben- oder Reportingverfahren eingeführt wird.

• bidrectional

  • Ein Begriff, der ein System beschreibt, das den Text vor und nach einem Zielabschnitt bewertet. Ein unidirektionales System bewertet dagegen nur den Text, der einem Zielabschnitt vorangeht.

• Bidirectional Encoder Representations from Transformers (BERT)

  • BERT ist eine Methode zum Vortrainieren von Sprachdarstellungen. Das bedeutet, dass wir ein für allgemeine Zwecke geeignetes Modell zum „Sprachverständnis“ mit einem großen Textkorpus (z. B. Wikipedia) trainieren und dieses Modell dann für nachgelagerte NLP-Aufgaben verwenden, die uns wichtig sind (z. B. Question Answering). BERT übertrifft frühere Methoden, da es das erste unbeaufsichtigte, zutiefst bidirektionale System für das Vorabtraining von NLP ist.

• Bilingual Evaluation Understudy (BLEU)

  • Ein beliebter Messwert zur Bewertung der Qualität eines Algorithmus für die maschinelle Übersetzung, indem seine Ausgabe mit der einer oder mehrerer menschlicher Übersetzungen verglichen wird.

• Booster

  • Beim Modelltraining: Boosting kann sich auf Techniken zur Datenaugmentation beziehen, mit denen die Größe und Vielfalt von Trainingsdatasets erhöht wird. Dazu werden vorhandene Beispiele transformiert, um zusätzliche, vielfältige Beispiele zu erstellen. Dies kann die Modellleistung verbessern, insbesondere wenn das ursprüngliche Dataset begrenzt ist.

• Begrenzungsrahmen

  • Ein Begrenzungsrahmen für ein Objekt im Videoframe kann auf zwei Arten angegeben werden (i) Mithilfe von zwei Eckpunkten, die aus einer Reihe von x- und y-Koordinaten bestehen, wenn sie diagonale gegenüberliegende Punkte des Rechtecks sind. Beispiel: x_relative_min, y_relative_min,,,x_relative_max,y_relative_max,, (ii) Mithilfe aller vier Eckpunkte. Weitere Informationen finden Sie unter Videodaten vorbereiten.

• Bucket

  • Ordner der obersten Ebene für Cloud Storage. Bucket-Namen müssen für alle Cloud Storage-Nutzer eindeutig sein. Buckets enthalten Dateien. Weitere Informationen finden Sie in der Produktübersicht zu Cloud Storage.

• Chain-of-Thought

  • Bei generativer KI ist „Chain-of-Thought“ (CoT) eine Prompting-Technik, die das Large Language Model (LLM) dazu anregt, seinen Denkprozess explizit zu beschreiben, bevor es zu einer Schlussfolgerung gelangt. Dabei wird das Modell aufgefordert, die Zwischenschritte zur Lösung eines Problems anzuzeigen, anstatt nur die endgültige Antwort zu liefern. Mit dieser Methode lässt sich die Leistung des LLM bei komplexen Aufgaben, die logisches Denken erfordern, deutlich verbessern.

• Chat

  • Die Inhalte eines Dialogs mit einem ML-System, in der Regel einem Large Language Model. Die vorherige Interaktion in einem Chat (was Sie eingegeben haben und wie das Large Language Model reagiert hat) wird zum Kontext für nachfolgende Teile des Chats. Ein Chatbot ist eine Anwendung eines Large Language Model.

• checkpoint

  • Daten, die den Status der Parameter eines Modells während des Trainings oder nach Abschluss des Trainings erfassen. Während des Trainings haben Sie beispielsweise folgende Möglichkeiten: 1. Das Training wird beendet, möglicherweise absichtlich oder aufgrund bestimmter Fehler. 2. Erfassen Sie den Prüfpunkt. 3. Laden Sie den Prüfpunkt später neu, möglicherweise auf anderer Hardware. 4. Training neu starten In Gemini bezieht sich ein Prüfpunkt auf eine bestimmte Version eines Gemini-Modells, das mit einem bestimmten Dataset trainiert wurde.

• Klassifizierungsmodell

  • Ein Modell, dessen Inferenz eine Klasse ist. Beispiele für Klassifizierungsmodelle: Ein Modell, das die Sprache eines Eingabesatzes vorhersagt (Französisch? Spanisch? Italienisch?). Ein Modell, das Baumarten vorhersagt (Ahorn? Eiche? Baobab?). Ein Modell, das die positive oder negative Klasse für einen bestimmten medizinischen Zustand vorhersagt.

• Klassifizierungsmesswerte

  • Unterstützte Klassifizierungsmesswerte im Vertex AI SDK für Python sind Wahrheitsmatrix und ROC-Kurve.

• Cloud TPU

  • Ein spezialisierter Hardwarebeschleuniger, der entwickelt wurde, um Arbeitslasten für maschinelles Lernen in Google Cloud zu beschleunigen.

• Clustering

  • Im Kontext generativer KI ist Clustering eine Technik für unüberwachtes maschinelles Lernen, mit der ähnliche Datenpunkte anhand ihrer Merkmale gruppiert werden. Dazu wird ein Ähnlichkeitsmaß (oder Messwert) definiert, um Datenpunkte zu vergleichen und diejenigen mit hoher Ähnlichkeit in derselben Gruppe zusammenzufassen. Bei Anwendungen mit generativer KI kann dies das Clustern von Einbettungen (numerische Darstellungen von Text, Bildern oder anderen Daten) umfassen, um Aufgaben wie Suche, Klassifizierung oder Ausreißererkennung auszuführen. So kann beispielsweise eine Kundensegmentierung durch Clustering von Kundendaten erreicht werden, um Gruppen mit ähnlichen Verhaltensweisen oder Merkmalen zu identifizieren. Weitere Informationen finden Sie unter Was ist Clustering?.

• Container-Image

  • Ein Container-Image ist ein Paket, das den ausführbaren Code der Komponente und eine Definition der Umgebung enthält, in der der Code ausgeführt wird. Weitere Informationen finden Sie in der Übersicht zu serverlosem Training in Vertex AI.

• context

  • Mit einem Kontext werden Artefakte und Ausführungen in einer einzigen, abfragbaren und typisierten Kategorie zusammengefasst. Kontexte können zur Darstellung von Metadaten verwendet werden. Ein Beispiel für einen Kontext wäre die Ausführung einer Pipeline für maschinelles Lernen.

• Kontextcache

  • Ein Kontext-Cache in Vertex AI enthält eine große Datenmenge, die in verschiedenen Anfragen an ein Gemini-Modell verwendet werden kann. Der im Cache gespeicherte Inhalt wird in der Region gespeichert, in der die Anfrage zum Erstellen des Caches gestellt wird. Es kann sich um einen beliebigen MIME-Typ handeln, der von Gemini Multimodal-Modellen unterstützt wird, z. B. Text, Audio oder Video. Weitere Informationen finden Sie unter Kontext-Caching – Übersicht.

• Kontextfenster

  • Die Anzahl der Tokens, die ein Modell in einem bestimmten Prompt verarbeiten kann. Je größer das Kontextfenster ist, desto mehr Informationen kann das Modell verwenden, um kohärente und konsistente Antworten auf den Prompt zu geben.

• Kundenverwaltete Verschlüsselungsschlüssel (Customer Managed Encryption Keys, CMEK)

  • Kundenverwaltete Verschlüsselungsschlüssel (Customer-Managed Encryption Keys, CMEK) sind Integrationen, mit denen Kunden Daten in vorhandenen Google-Diensten mit einem Schlüssel verschlüsseln können, den sie in Cloud KMS (alias Storky) verwalten. Der Schlüssel in Cloud KMS ist der Schlüsselverschlüsselungsschlüssel, der seine Daten schützt. Weitere Informationen finden Sie unter Vom Kunden verwaltete Verschlüsselungsschlüssel (CMEK).

• Nutzer-VPC-Netzwerk

  • Ein Nutzer-VPC-Netzwerk ist eine Google Cloud Virtual Private Cloud (VPC), die privat auf einen Dienst zugreift, der in einer anderen VPC (der Ersteller-VPC) gehostet wird. Weitere Informationen finden Sie unter Private Service Connect.

• Datenanalyse

  • Daten verstehen, indem Stichproben, Messungen und Visualisierungen berücksichtigt werden. Die Datenanalyse kann besonders nützlich sein, wenn ein Dataset zum ersten Mal empfangen wird, bevor das erste Modell erstellt wird. Sie ist auch entscheidend, um Tests zu verstehen und Probleme mit dem System zu beheben.

• Data Augmentation

  • Die Bandbreite und Anzahl der Trainingsbeispiele wird künstlich erhöht, indem vorhandene Beispiele transformiert werden, um zusätzliche Beispiele zu erstellen. Angenommen, Bilder sind eines Ihrer Features, aber Ihr Dataset enthält nicht genügend Bildbeispiele, damit das Modell nützliche Assoziationen lernen kann. Im Idealfall fügen Sie Ihrem Dataset genügend Bilder mit Labels hinzu, damit Ihr Modell richtig trainiert werden kann. Wenn das nicht möglich ist, kann durch Datenaugmentation jedes Bild gedreht, gestreckt und gespiegelt werden, um viele Varianten des Originalbilds zu erzeugen. So erhalten Sie möglicherweise genügend gelabelte Daten für ein hervorragendes Training.

• DataFrame

  • Ein beliebter Pandas-Datentyp zur Darstellung von Datasets im Arbeitsspeicher. Ein DataFrame ist analog zu einer Tabelle oder einem Tabellenblatt. Jede Spalte eines DataFrames hat einen Namen (eine Kopfzeile) und jede Zeile wird durch eine eindeutige Nummer identifiziert. Jede Spalte in einem DataFrame ist wie ein zweidimensionales Array strukturiert, mit der Ausnahme, dass jeder Spalte ein eigener Datentyp zugewiesen werden kann.

• Datenindexierung

  • Im Kontext generativer KI ist die Datenindexierung der Prozess der Strukturierung und Organisation einer Wissensdatenbank zur Optimierung von Suche und Abruf. Dazu wird ein Index erstellt, der oft als Korpus bezeichnet wird und eine effiziente Suche in den Daten ermöglicht. Der Prozess ist unabhängig von der Korpus-Erstellung. Die indexierten Daten können verwendet werden, um den Kontext von Large Language Models (LLMs) anzureichern, Halluzinationen zu reduzieren und die Genauigkeit der Antworten zu verbessern. In einem Website-Kontext kann die Datenindexierung beispielsweise das Hinzufügen von Metadaten wie „datePublished“ und „dateModified“ umfassen, um die Suchfunktion zu verbessern. Es gibt verschiedene Methoden zum Indexieren von Daten, darunter die Verwendung der Vektorsuche für die Ähnlichkeitssuche in Anwendungen wie dem Abrufen relevanter Informationen für LLMs zur Abfragezeit. Weitere Informationen finden Sie unter RAG Engine – Übersicht .

• Datenaufnahme

  • Bei der Datenaufnahme werden Daten aus verschiedenen Quellen extrahiert und an einem zentralen Ort für die weitere Verarbeitung und Analyse zusammengeführt. Im Kontext der generativen KI umfasst die Datenaufnahme das Extrahieren von Informationen aus verschiedenen Datenquellen wie klinischen Formularen, Patientenakten oder unstrukturiertem Text, um generative KI-Modelle zu trainieren und abzustimmen. Die aufgenommenen Daten werden in der Regel verarbeitet und transformiert, um ihre Qualität und Konsistenz zu gewährleisten, bevor sie zum Trainieren der generativen KI-Modelle verwendet werden. Dazu können Datenbereinigung, Feature Engineering und Data Augmentation-Techniken gehören, um die Leistung und Generalisierungsfähigkeit des Modells zu verbessern. Weitere Informationen finden Sie unter Generative KI für die Nutzungsverwaltung verwenden.

• Datenparallelität

  • Eine Methode zum Skalieren von Training oder Inferenz, bei der ein gesamtes Modell auf mehreren Geräten repliziert und dann eine Teilmenge der Eingabedaten an jedes Gerät übergeben wird. Mit Datenparallelität können Training und Inferenz mit sehr großen Batchgrößen durchgeführt werden. Dazu muss das Modell jedoch klein genug sein, um auf alle Geräte zu passen. Datenparallelität beschleunigt in der Regel das Training und die Inferenz.

• Dataset

  • Ein Dataset ist allgemein als eine Sammlung strukturierter oder unstrukturierter Datensätze definiert. Eine Sammlung von Rohdaten, die in der Regel (aber nicht ausschließlich) in einem der folgenden Formate organisiert sind: eine Tabelle, eine Datei im CSV-Format (Comma Separated Values, kommagetrennte Werte). Weitere Informationen finden Sie unter Dataset erstellen.

• Datentransformation

  • Im Kontext von Retrieval-Augmented Generation (RAG) bezieht sich die Datentransformation auf die Konvertierung von Daten in ein Format, das für die Indexierung und Verarbeitung durch ein LLM geeignet ist. Dazu gehört oft, Daten in kleinere Teile aufzuteilen, damit sie sich leichter einbetten und indexieren lassen. Andere Transformationen können Bereinigungs- und Validierungsschritte umfassen, um die Datenqualität zu gewährleisten. Weitere Informationen finden Sie in der Übersicht über die RAG Engine.

• Decoder

  • Im Allgemeinen jedes ML-System, das eine konvertierte, dichte oder interne Darstellung in eine rohere, spärliche oder externe Darstellung umwandelt. Decoder sind oft Bestandteil eines größeren Modells, in dem sie häufig mit einem Encoder kombiniert werden. Bei Sequence-to-Sequence-Aufgaben beginnt ein Decoder mit dem vom Encoder generierten internen Status, um die nächste Sequenz vorherzusagen.

• Neuronales Deep-Learning-Netzwerk (DNN)

  • Ein neuronales Netzwerk mit mehreren verborgenen Schichten, das in der Regel durch Deep-Learning-Techniken programmiert wird.

• Tiefe

  • Die Summe der folgenden Elemente in einem neuronalen Netzwerk: 1. Anzahl der verborgenen Schichten, 2. Anzahl der Ausgabeschichten (in der Regel eine) und 3. Anzahl der Einbettungsschichten. Ein neuronales Netzwerk mit fünf verborgenen Schichten und einer Ausgabeschicht hat beispielsweise eine Tiefe von 6. Die Eingabeschicht hat keinen Einfluss auf die Tiefe.

• DevOps

  • DevOps ist eine Suite von Google Cloud Platform-Produkten, z. B. Artifact Registry und Cloud Deploy.

• Vorzeitiges Beenden

  • Eine Methode zur Regularisierung, bei der das Training beendet wird, bevor der Trainingsverlust nicht mehr abnimmt. Beim vorzeitigen Beenden wird das Training des Modells absichtlich beendet, wenn der Verlust in einem Validierungs-Dataset zu steigen beginnt, d. h. wenn sich die Generalisierungsleistung verschlechtert.

• Einbettung

  • Numerische Darstellungen von Wörtern oder Texten. Diese Zahlen erfassen die semantische Bedeutung und den Kontext des Texts. Ähnliche oder verwandte Wörter oder Texte haben in der Regel ähnliche Einbettungen. Das bedeutet, dass sie im hochdimensionalen Vektorbereich näher beieinander liegen.

• Einbettungsbereich (latenter Raum)

  • In der generativen KI bezieht sich der Einbettungsraum auf eine numerische Darstellung von Text, Bildern oder Videos, die Beziehungen zwischen Eingaben erfasst. Modelle für maschinelles Lernen, insbesondere generative KI-Modelle, sind in der Lage, diese Einbettungen zu erstellen, indem sie Muster in großen Datasets erkennen. Anwendungen können Einbettungen verwenden, um Sprache zu verarbeiten und zu generieren und dabei komplexe Bedeutungen und semantische Beziehungen zu erkennen, die für die Inhalte spezifisch sind.

• Einbettungsvektor

  • Eine dichte, oft niedrigdimensionale Vektordarstellung eines Elements. Wenn zwei Elemente semantisch ähnlich sind, befinden sich ihre jeweiligen Einbettungen im Einbettungsvektorbereich nahe beieinander.

• Encoder

  • Im Allgemeinen jedes ML-System, das eine rohe, spärliche oder externe Darstellung in eine verarbeitete, dichtere oder internere Darstellung umwandelt. Encoder sind oft eine Komponente eines größeren Modells, in dem sie häufig mit einem Decoder kombiniert werden. Einige Transformer kombinieren Encoder mit Decodern, während andere Transformer nur den Encoder oder nur den Decoder verwenden. Bei einigen Systemen wird die Ausgabe des Encoders als Eingabe für ein Klassifizierungs- oder Regressionsnetzwerk verwendet. Bei Sequence-to-Sequence-Aufgaben nimmt ein Encoder eine Eingabesequenz entgegen und gibt einen internen Zustand (einen Vektor) zurück. Der Decoder verwendet diesen internen Zustand dann, um die nächste Sequenz vorherzusagen.

• Ensemble

  • Eine Sammlung von Modellen, die unabhängig voneinander trainiert wurden und deren Inferenzwerte gemittelt oder aggregiert werden. In vielen Fällen liefert ein Ensemble bessere Inferenzvorhersagen als ein einzelnes Modell. Ein Random Forest ist beispielsweise ein Ensemble, das aus mehreren Entscheidungsbäumen besteht. Nicht alle Entscheidungsbäume sind Ensembles.

• Umgebung

  • In der bestärkenden Lernmethode ist das die Welt, in der sich der Agent befindet und in der er den Zustand dieser Welt beobachten kann. Die dargestellte Welt kann beispielsweise ein Spiel wie Schach oder eine physische Welt wie ein Labyrinth sein. Wenn der Agent eine Aktion auf die Umgebung anwendet, wechselt die Umgebung zwischen den Zuständen.

• Bewertung (eval)

  • Eine „Eval“ (kurz für „Evaluation“) ist eine Art von Test, bei dem protokollierte oder synthetische Anfragen durch zwei Suchstacks gesendet werden: einen experimentellen Stack, der Ihre Änderung enthält, und einen Basis-Stack ohne Ihre Änderung. Bei Evals werden Unterschiede und Messwerte ermittelt, mit denen Sie die Auswirkungen, die Qualität und andere Effekte Ihrer Änderung auf Suchergebnisse und andere Teile der Google-Nutzererfahrung bewerten können. Evals werden während der Optimierung oder der Iterationen Ihrer Änderung verwendet. Sie werden auch im Rahmen der Einführung einer Änderung für Live-Nutzer-Traffic eingesetzt.

• Ausführung

  • Eine Ausführung ist ein Datensatz eines einzelnen Workflows für maschinelles Lernen, der normalerweise mit seinen Laufzeitparametern annotiert ist. Beispiele für Ausführungen sind Datenaufnahme, Datenvalidierung, Modelltraining, Modellbewertung und Modellbereitstellung.

• F1-Wert

  • Der F1-Wert ist ein Messwert, mit dem die Genauigkeit der Ausgabe eines Modells bewertet wird. Es ist besonders nützlich, um die Leistung von Modellen bei Aufgaben zu bewerten, bei denen sowohl Precision als auch Recall wichtig sind, z. B. bei der Informationsgewinnung. Bei generativen KI-Modellen kann der F1-Wert verwendet werden, um die Inferenz des Modells mit Ground-Truth-Daten zu vergleichen und die Genauigkeit des Modells zu bestimmen. Für generative Aufgaben wie Zusammenfassung und Textgenerierung sind jedoch möglicherweise andere Messwerte wie der Rough-L-Score besser geeignet.

• Feature

  • Beim maschinellen Lernen (ML) ist ein Feature ein Merkmal oder Attribut einer Instanz oder Entität, das als Eingabe zum Trainieren eines ML-Modells oder für Inferenzen verwendet wird.

• Featureextraktion

  • Im Zusammenhang mit generativer KI bezieht sich die Featureextraktion auf das Identifizieren und Auswählen relevanter Merkmale aus Eingabedaten, die für das Modelltraining verwendet werden. Diese Merkmale werden dann verwendet, um neue Daten zu generieren, die den ursprünglichen Eingaben ähneln. Bei der Bildgenerierung kann die Featureextraktion beispielsweise das Identifizieren von Kanten, Texturen und Farben umfassen. Bei der Verarbeitung natürlicher Sprache kann es sich um das Extrahieren von Schlüsselwörtern, Begriffen und grammatikalischen Strukturen handeln. Die extrahierten Merkmale werden dann vom generativen Modell verwendet, um neue Inhalte zu erstellen.

• Bereitstellung von Features

  • Das Bereitstellen von Features ist der Export oder das Abrufen von Featurewerten für Training oder Inferenz. In Vertex AI gibt es zwei Arten der Bereitstellung von Features: Onlinebereitstellung und Offlinebereitstellung. Bei der Onlinebereitstellung werden die neuesten Featurewerte einer Teilmenge der Feature-Datenquelle für Onlineinferenzen abgerufen. Bei der Offline- oder Batchbereitstellung werden große Mengen von Featuredaten, einschließlich Verlaufsdaten, für die Offlineverarbeitung exportiert, z. B. für das ML-Modelltraining.

• Featureansicht

  • Eine Featureansicht ist eine logische Sammlung von Features, die aus einer BigQuery-Datenquelle in eine Onlinespeicher-Instanz materialisiert werden. In einer Featureansicht werden die Featuredaten des Kunden gespeichert und regelmäßig aktualisiert. Die Daten werden regelmäßig aus der BigQuery-Quelle aktualisiert. Eine Featureansicht ist dem Featuredatenspeicher entweder direkt oder über Verknüpfungen zu Feature Registry-Ressourcen zugeordnet.

• Few-Shot-Prompt (Few-Shot)

  • In der generativen KI bezieht sich „Few-Shot“ auf einen Prompt-Typ, der eine kleine Anzahl von Beispielen enthält, um die Antwort des Modells zu steuern. Anhand dieser Beispiele kann das Modell das gewünschte Ausgabeformat, die Formulierung, den Geltungsbereich oder das allgemeine Muster der Antwort verstehen. Häufig werden Few-Shot-Prompts verwendet, um die Ausgabe von Sprachmodellen zu regulieren und dafür zu sorgen, dass sie Antworten generieren, die genau, hochwertig und mit den Erwartungen der Nutzer konsistent sind. Indem der Nutzer dem Modell einige relevante Beispiele zur Verfügung stellt, kann er das Verhalten des Modells beeinflussen und zufriedenstellendere Ergebnisse erzielen. Weitere Informationen finden Sie unter Few-Shot-Beispielen einfügen.

• Foundation Model (FM)

  • Modelle, die mit umfassenden Daten trainiert werden, sodass sie an eine Vielzahl von Downstream-Aufgaben angepasst (z. B. feinabgestimmt) werden können.

• Foundation Model Operations (FMOPs)

  • FMOps erweitert die Funktionen von MLOps und konzentriert sich auf die effiziente Produktion von vortrainierten (von Grund auf trainierten) oder benutzerdefinierten (abgestimmten) FMs.

• Gemini

  • Gemini ist eine Reihe von sequenzbasierten multimodalen Modellen von Google. Das bedeutet, dass sie Eingaben in mehr als einem Medium gleichzeitig akzeptieren und Ausgaben in mehr als einem Medium gleichzeitig erzeugen können, z. B. Text, Audio und visuelle Medien. Sie sind für die Integration in Agenten konzipiert, die verschiedene Aufgaben ausführen können. Weitere Informationen finden Sie unter Google-Modelle.

• Generalisierung

  • Die Fähigkeit eines Modells, korrekte Rückschlüsse auf neue, bisher unbekannte Daten zu ziehen. Ein Modell, das generalisieren kann, ist das Gegenteil eines Modells, das überangepasst ist.

• Generation

  • Im Kontext generativer KI bezieht sich „Generierung“ auf den Prozess der Erstellung neuer Daten oder Inhalte aus vorhandenen Daten oder Informationen. Generative KI-Modelle werden mit großen Datasets trainiert und können Muster und Beziehungen in den Daten erkennen. Anschließend können sie dieses Wissen nutzen, um neue und einzigartige Inhalte zu generieren, die den Trainingsdaten ähneln, aber keine exakte Kopie sind. Weitere Informationen finden Sie unter Wann werden generative oder herkömmliche KI verwendet?.

• generatives Modell

  • Ein Typ von Machine-Learning-Modell, das auf Grundlage seiner Trainingsdaten neue Ausgaben erstellen kann. Im einfachsten Fall generiert das Modell neue Daten, die wie eine bestimmte Gruppe von Kategorien aussehen, mit denen es trainiert wurde. Wird in der Regel mit Large Language Models in Verbindung gebracht, aber auch andere Arten von Modellen können generativ sein.

• Google Embedded Modem System (GEMS)

  • GEMS ist ein Framework für eingebettete Software, das auf Modems ausgerichtet ist, sowie eine zugehörige Reihe von Entwicklungs-Workflows und Infrastruktur. Die Kernvision von GEMS ist es, hochwertigen Modem-Systemcode mit hoher Wiederverwendbarkeit für viele Google-Geräte mit Modems bereitzustellen. Um diese umfassende Vision zu erreichen, bietet GEMS eine umfassende Umgebung für Entwickler, die aus den unten dargestellten wichtigen Bausteinen besteht.

• gradient

  • Der Vektor der partiellen Ableitungen in Bezug auf alle unabhängigen Variablen. Beim maschinellen Lernen ist der Gradient der Vektor der partiellen Ableitungen der Modellfunktion. Der Gradient zeigt in die Richtung des steilsten Anstiegs.

• Diagramm

  • Im Kontext generativer KI bezieht sich ein Graph auf eine strukturierte Darstellung von Informationen, bei der Daten als Netzwerk von Knoten und Kanten organisiert und miteinander verbunden werden. Diese Graphen werden häufig verwendet, um Wissen und Beziehungen zwischen Entitäten darzustellen. Das macht sie besonders nützlich für generative KI-Systeme, die ein tiefes Verständnis des Kontexts und der Beziehungen in Daten erfordern. GenAI-Systeme, die Knowledge Graphs nutzen, können damit die Leistung von Abrufmodellen verbessern. Durch die Einbindung von Knowledge Graphs in das System kann generative KI auf kontextreiche Daten zugreifen und den Graph durchlaufen, um relevante Teilgraphen basierend auf Nutzeranfragen abzurufen. So kann das System genauere und informativere Antworten liefern, indem es kontextbezogene Inhalte generiert.

• Ground Truth (GT)

  • „Ground Truth“ ist ein Begriff, der in verschiedenen Bereichen verwendet wird, um sich auf die absolute Wahrheit eines Entscheidungs- oder Messproblems zu beziehen, im Gegensatz zur Schätzung eines Systems. Beim maschinellen Lernen bezieht sich der Begriff „Ground Truth“ auf den Trainingssatz für Techniken des überwachten Lernens.

• Halluzination

  • Eine Halluzination in generativer KI ist eine selbstbewusste Antwort einer KI, die nicht auf ihren Trainingsdaten basiert. Sie sind möglicherweise sachlich falsch. Im Kontext der Textgenerierung sind das plausibel klingende zufällige Falschinformationen in den generierten Textinhalten.

• Heuristik

  • Eine einfache und schnell umzusetzende Lösung für ein Problem. Beispiel: „Mit einer Heuristik haben wir eine Genauigkeit von 86% erreicht. Als wir auf ein neuronales Deep-Learning-Netzwerk umgestellt haben, stieg die Genauigkeit auf 98 %.“

• versteckte Schicht

  • Eine Schicht in einem neuronalen Netzwerk zwischen der Eingabeschicht (den Features) und der Ausgabeschicht (der Inferenz). Jede versteckte Schicht besteht aus einem oder mehreren Neuronen. Ein tiefes neuronales Netzwerk enthält mehr als eine versteckte Schicht.

• histogram

  • Eine grafische Darstellung der Variation in einem Satz von Daten mithilfe von Balken. Ein Histogramm visualisiert Muster, die in einer einfachen Zahlentabelle schwer zu erkennen sind.

• Hyperparameter

  • Ein Hyperparameter ist eine Variable, die den Trainingsprozess eines Modells für maschinelles Lernen steuert. Dazu gehören Lernraten, Momentumwerte im Optimierer und die Anzahl der Einheiten in der letzten versteckten Schicht eines Modells. Weitere Informationen finden Sie unter Hyperparameter-Abstimmung – Übersicht.

• Hyperparameter-Abstimmung

  • Bei der Hyperparameter-Abstimmung in Vertex AI werden mehrere Tests einer Trainingsanwendung mit unterschiedlichen Werten für die ausgewählten Hyperparameter innerhalb der angegebenen Limits ausgeführt. Ziel ist es, die Hyperparameter-Einstellungen zu optimieren, um die Vorhersagegenauigkeit des Modells zu maximieren. Weitere Informationen finden Sie unter Übersicht zur Hyperparameter-Abstimmung.

• Berechtigungen zur Identitäts- und Zugriffsverwaltung (Identity and Access Management, IAM)

  • IAM-Berechtigungen (Identity and Access Management) sind spezifische, detaillierte Funktionen, die festlegen, wer was mit welchen Google Cloud-Ressourcen tun darf. Sie werden Hauptkonten (z. B. Nutzern, Gruppen oder Dienstkonten) über Rollen zugewiesen und ermöglichen so eine präzise Steuerung des Zugriffs auf Dienste und Daten in einem Google Cloud-Projekt oder einer Organisation. Weitere Informationen finden Sie unter Zugriffssteuerung mit IAM.

• Imagen

  • Imagen ist ein generativer Text-zu-Bild-KI-Dienst, der über die Vertex AI-Plattform verfügbar ist. Damit können Nutzer neue Bilder generieren, Bilder bearbeiten, Stil- oder Themenmodelle abstimmen, Bilder mit Untertiteln versehen oder Antworten auf Fragen zu Bildinhalten erhalten. Weitere Informationen finden Sie in der Übersicht zu Imagen in Vertex AI.

• Bilderkennung

  • Die Bilderkennung ist der Prozess der Klassifizierung von Objekten, Mustern oder Konzepten in einem Bild. Sie wird auch als Bildklassifizierung bezeichnet und ist ein Teilgebiet des maschinellen Lernens und der Computer Vision.

• index

  • Eine Sammlung von Vektoren, die gemeinsam für die Ähnlichkeitssuche bereitgestellt werden. Vektoren können einem Index hinzugefügt oder aus einem Index entfernt werden. Ähnlichkeitssuchanfragen werden für einen bestimmten Index ausgegeben und suchen über die Vektoren in diesem Index.

• Inferenz

  • Im Kontext der Vertex AI-Plattform bezieht sich die Inferenz auf den Prozess, bei dem Datenpunkte durch ein Modell für maschinelles Lernen geleitet werden, um eine Ausgabe zu berechnen, z. B. einen einzelnen numerischen Wert. Dieser Vorgang wird auch als „Operationalisieren eines ML-Modells“ oder „Überführen eines ML-Modells in die Produktion“ bezeichnet. Die Inferenz ist ein wichtiger Schritt im Workflow für maschinelles Lernen, da sie es ermöglicht, Modelle zu verwenden, um Rückschlüsse auf neue Daten zu ziehen. In Vertex AI kann die Inferenz auf verschiedene Arten durchgeführt werden, z. B. als Batchinferenz und als Onlineinferenz. Bei der Batchinferenz wird eine Gruppe von Inferenzanfragen ausgeführt und die Ergebnisse in einer Datei ausgegeben. Bei der Onlineinferenz sind Echtzeitinferenzen für einzelne Datenpunkte möglich.

• Information Retrieval (IR)

  • Der Informationsabruf ist eine wichtige Komponente von Vertex AI Search. Dabei werden relevante Informationen aus einer großen Datensammlung gesucht und abgerufen. Im Kontext von Vertex AI wird IR verwendet, um Dokumente aus einem Korpus basierend auf der Anfrage eines Nutzers abzurufen. Vertex AI bietet eine Reihe von APIs, mit denen Sie eigene RAG-Anwendungen (Retrieval Augmented Generation) oder eine eigene Suchmaschine erstellen können. Weitere Informationen finden Sie unter Vertex AI Search als Abruf-Backend mit RAG Engine verwenden.

• Infrastruktur als Code (IaC)

  • Infrastruktur als Code. Ein Ansatz zur Verwaltung der IT-Infrastruktur, bei dem Teams Dienste über Code verwalten und bereitstellen können. Mit IaC werden Konfigurationsdateien erstellt, die die Infrastrukturspezifikationen enthalten. So lässt sich die Infrastruktur einfacher skalieren.

• Infrastruktur als Code (IaC)

  • Infrastruktur als Code. Ein Ansatz zur Verwaltung der IT-Infrastruktur, bei dem Teams Dienste über Code verwalten und bereitstellen können. Mit IaC werden Konfigurationsdateien erstellt, die die Infrastrukturspezifikationen enthalten. So lässt sich die Infrastruktur einfacher skalieren.

• Anmeldeknoten

  • Ein Anmeldeknoten ist der Haupteinstiegspunkt für einen Nutzer, um auf den Cluster zuzugreifen, Jobs zu senden und Dateien zu verwalten. Weitere Informationen finden Sie unter Was ist Hochleistungs-Computing?.

• Verwaltetes Dataset

  • Ein Dataset-Objekt, das von Vertex AI erstellt und gehostet wird.

• Managed Training in reservierten Clustern

  • Managed Training on reserved clusters ist ein Google Cloud-Dienst, der darauf ausgelegt ist, die größten und komplexesten KI/ML-Arbeitslasten zu vereinfachen und zu beschleunigen. Er bietet eine vollständig verwaltete Umgebung auf dedizierter, reservierter Hardware. Es wurde entwickelt, um häufige Herausforderungen beim Training im großen Maßstab zu lösen, darunter die komplexe Clusterkonfiguration, die Wiederherstellung nach Hardwarefehlern und die Framework-Optimierung. Weitere Informationen finden Sie unter Übersicht über verwaltetes Training auf reservierten Clustern.

• model

  • Alle Modelle, vortrainiert oder nicht. Im Allgemeinen jedes mathematische Konstrukt, das Eingabedaten verarbeitet und eine Ausgabe zurückgibt. Anders ausgedrückt: Ein Modell ist die Menge der Parameter und die Struktur, die ein System benötigt, um Rückschlüsse zu ziehen.

• Modelldestillation (Wissensdestillation, Lehrer-Schüler-Modelle)

  • Bei der Modelldestillation lernt ein kleineres Schülermodell von einem größeren Lehrermodell. Das Schülermodell wird so trainiert, dass es die Ausgabe des Lehrermodells imitiert. Anschließend kann es verwendet werden, um neue Daten zu generieren oder Rückschlüsse zu ziehen. Die Modelldestillation wird häufig eingesetzt, um große Modelle effizienter zu machen oder sie für Geräte mit begrenzten Ressourcen zugänglicher zu machen. Sie kann auch verwendet werden, um die Generalisierung von Modellen zu verbessern, indem Overfitting reduziert wird.

• Modellmonitoring

  • Vertex AI Model Monitoring ist ein Dienst, der die Leistung bereitgestellter Modelle kontinuierlich bewertet, indem er Featureabweichungen und ‑drifts in Vorhersageanfragen erkennt. So kann die Modellqualität im Laufe der Zeit aufrechterhalten werden. Weitere Informationen finden Sie unter Einführung in Vertex AI Model Monitoring.

• Modellressourcenname

  • Der Ressourcenname für eine model ist: projects/<PROJECT_ID>/locations/<LOCATION_ID>/models/<MODEL_ID>. Sie finden die Modell-ID in der Cloud Console auf der Seite „Modell-Registry“.

• Network File System (NFS)

  • Ein Client-/Serversystem, mit dem Nutzer über ein Netzwerk auf Dateien zugreifen und sie so behandeln können, als befänden sie sich in einem lokalen Dateiverzeichnis. Weitere Informationen finden Sie unter NFS-Freigabe einbinden.

• Knoten

  • Eine einzelne virtuelle Maschine (Compute Engine-Instanz) in einem Cluster. Im Kontext von Managed Training auf reservierten Clustern bezieht sich ein Knoten auf eine einzelne virtuelle Maschine (VM), die als einzelne Recheneinheit in Ihrem Cluster dient. Stellen Sie sich das als eine der dedizierten Worker-Maschinen vor, auf der ein Teil Ihres gesamten Trainingsjobs ausgeführt wird. Jeder Knoten ist mit bestimmten Ressourcen wie CPU, Arbeitsspeicher und Beschleunigern (z. B. A3- oder A4-GPUs) ausgestattet. Alle Knoten arbeiten koordiniert zusammen, um umfangreiche, verteilte Trainingsaufgaben zu bewältigen.

• One-Hot-Codierung

  • Bei der One-Hot-Codierung wird jede Kategorie als Vektor mit N Elementen dargestellt (wobei N die Anzahl der Kategorien ist). Genau ein Element hat den Wert 1,0 und alle verbleibenden Elemente haben den Wert 0,0. Weitere Informationen finden Sie unter One-Hot-Codierung.

• One-Shot-Prompt

  • Ein Prompt, der ein Beispiel dafür enthält, wie das Large Language Model reagieren soll. Weitere Informationen finden Sie unter One-Shot-Prompt.

• parameter

  • Parameter sind Schlüsseleingabewerte, die eine Ausführung konfigurieren, das Verhalten der Ausführung steuern und die Ergebnisse der Ausführung beeinflussen. Beispiele sind die Lernrate, die Abbruchrate und die Anzahl der Trainingsschritte.

• partition

  • In Slurm eine logische Gruppierung von Knoten, die häufig verwendet wird, um Knoten mit unterschiedlichen Hardwarekonfigurationen zu trennen.

• Leistungsstufe

  • Eine Konfigurationseinstellung für eine Managed Lustre-Instanz, die die Durchsatzgeschwindigkeit (in MB/s pro TiB) definiert und sich auf die Mindest- und Höchstkapazität auswirkt.

• Perplexity

  • Perplexity ist ein Messwert, mit dem die Leistung von Sprachmodellen bewertet wird. Sie gibt an, wie wahrscheinlich es ist, dass das Modell eine bestimmte Textsequenz basierend auf der Verteilung des Textes generiert, mit dem es trainiert wurde. Perplexity ist ein häufig verwendeter Messwert zur Bewertung von Sprachmodellen. Er wird oft verwendet, um die Leistung verschiedener Modelle zu vergleichen oder den Fortschritt eines Modells während des Trainings zu verfolgen.

• Pipeline

  • ML-Pipelines sind portable und skalierbare ML-Workflows, die auf Containern basieren. Weitere Informationen finden Sie unter Einführung in Vertex AI Pipelines.

• Pipelinejob

  • Ein Pipelinejob oder eine Pipelineausführung entspricht der PipelineJob-Ressource in der Vertex AI API. Sie ist eine Ausführungsinstanz Ihrer ML-Pipelinedefinition, die als eine Reihe von ML-Aufgaben definiert ist, die durch Ein-/Ausgabeabhängigkeiten miteinander verbunden sind.

• Pipelineausführung

  • Ein oder mehrere Vertex PipelineJobs können mit einem Test verknüpft werden, wobei jeder PipelineJob als einzelne Ausführung dargestellt wird. In diesem Kontext werden die Parameter der Ausführung von den Parametern des PipelineJobs abgeleitet. Die Messwerte werden aus den von diesem PipelineJob generierten system.Metric-Artefakten abgeleitet. Die Artefakte der Ausführung werden aus Artefakten abgeleitet, die von diesem PipelineJob erstellt werden.

• Zugriff auf private Dienste

  • Der Zugriff auf private Dienste ist eine private Verbindung zwischen Ihrem VPC-Netzwerk (Virtual Private Cloud) und Netzwerken, die Google oder Drittanbietern gehören. Er ermöglicht es VM-Instanzen (virtuelle Maschinen) in Ihrem VPC-Netzwerk, über interne IP-Adressen mit diesen Diensten zu kommunizieren, ohne dem öffentlichen Internet ausgesetzt zu sein. Weitere Informationen finden Sie unter Zugriff auf private Dienste.

• Prompt

  • Ein Prompt ist eine Anfrage in natürlicher Sprache, die an ein Sprachmodell gesendet wird, um eine Antwort zu erhalten. Prompts können Fragen, Anleitungen, Kontextinformationen, Beispiele und Teileingaben für das Modell enthalten, die abgeschlossen oder fortgesetzt werden sollen. Nachdem das Modell einen Prompt erhalten hat, kann es je nach verwendetem Modelltext Einbettungen, Code, Bilder, Videos, Musik und mehr erzeugen. Weitere Informationen finden Sie unter Übersicht über Prompt-Strategien.

• Prompt Engineering (Prompt-Design)

  • Prompt Engineering in der generativen KI ist der Prozess, effektive Prompts zu erstellen, um die gewünschten Ausgaben von Large Language Models (LLMs) zu erhalten. Es handelt sich um einen iterativen, testgesteuerten Prozess, bei dem die Eingaben verfeinert werden, um bestimmte Ergebnisse zu erzielen. Dabei werden sowohl der Inhalt als auch die Struktur des Prompts berücksichtigt, um genaue und hochwertige Antworten zu erhalten. Effektives Prompt Engineering ist für komplexe Aufgaben unerlässlich, auch wenn es für einfachere Aufgaben nicht erforderlich ist. Ziel ist es, LLM-basierte Anwendungen schnell zu prototypisieren. Weitere Informationen finden Sie unter Einführung in Prompt Engineering.

• Prompt-Optimierung

  • Prompt-Tuning ist eine parameter-effiziente Fine-tuning-Methode, mit der die Leistung eines generativen KI-Modells bei einer bestimmten Aufgabe verbessert werden kann. Dabei wird ein „Präfix“ gelernt, das dem eigentlichen Prompt vorangestellt wird, manchmal auf jeder Ebene. Dieser Ansatz gilt als kostengünstiger und schneller als andere Optimierungsmethoden und liefert oft gute Ergebnisse. Die Prompt-Optimierung ist besonders effektiv, wenn Sie eine bestimmte Aufgabe haben und das Modell sie auf eine bestimmte Weise ausführen soll. Sie wird auch als Prompt-Lernen oder parametereffiziente (Fein-)Abstimmung bezeichnet. Weitere Informationen finden Sie unter Einführung in das Prompt-Engineering.

• Bereitgestellter Durchsatz (PT)

  • Bereitgestellter Durchsatz ist ein Premium-Dienst für die generativen KI-Modelle von Vertex AI, der durch Kapazitätsgarantie und vorhersehbare Preise eine garantierte Leistung bietet. Im Gegensatz zur Pay-as-you-go-Option (On-Demand) können Kunden mit dem bereitgestellten Durchsatz ein dediziertes Kontingent erwerben, sodass ihre Anfragen nicht mit anderen um die Modellkapazität konkurrieren. Der bereitgestellte Durchsatz ist ein monatliches oder wöchentliches Abo mit fester Gebühr, das Durchsatz für bestimmte Modelle und Standorte reserviert. Weitere Informationen finden Sie unter Bereitgestellter Durchsatz – Übersicht.

• Quantisierung

  • Die Quantisierung ist eine Technik zur Modelloptimierung, mit der die Genauigkeit der Zahlen reduziert wird, die zur Darstellung der Parameter eines Modells verwendet werden. Das kann zu kleineren Modellen, einem geringeren Stromverbrauch und einer geringeren Inferenzlatenz führen.

• Random Forest

  • Random Forest ist ein Machine-Learning-Algorithmus, der sowohl für die Klassifizierung als auch für die Regression verwendet wird. Es ist nicht direkt ein generatives KI-Modell, sondern eine Komponente, die in einem größeren generativen KI-System verwendet werden kann. Ein Random Forest besteht aus mehreren Entscheidungsbäumen. Die Inferenz ist eine Aggregation der Inferenzen aus diesen einzelnen Bäumen. Bei einer Klassifizierungsaufgabe „stimmt“ beispielsweise jeder Baum für eine Klasse ab. Die endgültige Inferenz ist die Klasse mit den meisten Stimmen. Weitere Informationen finden Sie unter Decision forest.

• Ray-Cluster in Vertex AI

  • Ein Ray-Cluster in Vertex AI ist ein verwalteter Cluster von Rechenknoten, der zum Ausführen von verteilten Anwendungen für maschinelles Lernen (ML) und Python verwendet werden kann. Es bietet die Infrastruktur für verteiltes Computing und parallele Verarbeitung für Ihren ML-Workflow. Ray-Cluster sind in Vertex AI integriert, um die Kapazitätsverfügbarkeit für kritische ML-Arbeitslasten oder während Spitzenzeiten zu gewährleisten. Im Gegensatz zu benutzerdefinierten Jobs, bei denen der Trainingsdienst die Ressource nach Abschluss des Jobs freigibt, bleiben Ray-Cluster bis zum Löschen verfügbar. Weitere Informationen finden Sie in der Übersicht zu Ray on Vertex AI.

• Ray on Vertex AI (RoV)

  • Ray on Vertex AI wurde so entwickelt, dass Sie denselben Open-Source-Ray-Code zum Schreiben von Programmen und Entwickeln von Anwendungen in Vertex AI mit minimalen Änderungen verwenden können. Weitere Informationen finden Sie in der Übersicht zu Ray on Vertex AI.

• Ray on Vertex AI SDK für Python

  • Das Ray on Vertex AI SDK für Python ist eine Version des Vertex AI SDK für Python, die die Funktionen von Ray Client, Ray BigQuery Connector, der Ray-Clusterverwaltung in Vertex AI und Inferenz in Vertex AI umfasst. Weitere Informationen finden Sie unter Einführung in das Vertex AI SDK für Python.

• Recall

  • Der Prozentsatz der echten nächsten Nachbarn, die vom Index zurückgegeben werden. Wenn z. B. eine Abfrage nach 20 nächsten Nachbarn 19 der „grundlegend echten“ nächsten Nachbarn zurückgibt, beträgt der Recall 19/20x100 = 95%.

• Rezept

  • Im Kontext von Managed Training ist ein Rezept ein umfassendes und wiederverwendbares Paket, das alles enthält, was zum Ausführen einer bestimmten umfangreichen Trainingsarbeitslast erforderlich ist.

• Empfehlungssystem

  • Ein Empfehlungssystem ist ein auf maschinellem Lernen basierendes System, das Nutzern hilft, relevante Inhalte in einem großen Korpus zu finden. Es generiert eine kleinere Teilmenge von Kandidaten aus einem potenziell riesigen Korpus, bewertet und ordnet die Kandidaten ein und sortiert die endgültige Rangfolge neu, um zusätzliche Einschränkungen zu berücksichtigen. Weitere Informationen finden Sie unter Empfehlungssysteme – Übersicht.

• Regularisierung

  • Die Regularisierung ist eine Technik, mit der eine Überanpassung in Modellen für maschinelles Lernen verhindert wird. Eine Überanpassung tritt auf, wenn ein Modell die Trainingsdaten zu gut lernt, was zu einer schlechten Leistung bei unbekannten Daten führt. Eine spezielle Art der Regularisierung ist das vorzeitige Beenden. Dabei wird das Training beendet, bevor der Verlust in einem Validierungs-Dataset zu steigen beginnt, was auf einen Rückgang der Generalisierungsleistung hindeutet. Weitere Informationen finden Sie unter Overfitting: L2-Regularisierung.

• Bestärkendes Lernen (Reinforcement Learning, RL)

  • Eine Art des maschinellen Lernens, bei der ein Agent lernt, Entscheidungen zu treffen, indem er in einer Umgebung handelt, um eine kumulative Belohnung zu maximieren. Weitere Informationen finden Sie unter RLHF Tuning with Vertex AI.

• Dienstkonto

  • Dienstkonten sind spezielle Google Cloud-Konten, die von Anwendungen oder virtuellen Maschinen verwendet werden, um autorisierte API-Aufrufe an Google Cloud-Dienste zu senden. Im Gegensatz zu Nutzerkonten sind sie nicht an eine einzelne Person gebunden, sondern dienen als Identität für Ihren Code. So kann sicher und programmatisch auf Ressourcen zugegriffen werden, ohne dass Anmeldedaten einer Person erforderlich sind. Weitere Informationen finden Sie unter Dienstkonten.

• Dienst-Agent

  • Ein Dienst-Agent bezieht sich auf ein von Google verwaltetes Dienstkonto. Sie wird verwendet, wenn ein Dienst Zugriff auf Ressourcen benötigt, die von einem anderen Dienst erstellt wurden. Das ist beispielsweise der Fall, wenn Dataflow- oder Dataproc-Dienste während der Laufzeit Instanzen erstellen müssen oder wenn eine Cloud Function den Key Management Service (KMS) zum Schutz der Cloud Function verwenden möchte. Dienst-Agents werden automatisch von Google Cloud erstellt, wenn ein Dienst sie benötigt. Sie werden in der Regel verwendet, um den Zugriff auf Ressourcen zu verwalten und verschiedene Aufgaben im Namen des Dienstes auszuführen. Weitere Informationen finden Sie unter Dienst-Agents.

• Slurm-Cluster

  • Eine Sammlung von Compute Engine-Instanzen, die von Slurm verwaltet werden und einen Log-in-Knoten und mehrere Worker-Knoten umfasst, die für die Ausführung von Trainingsjobs konfiguriert sind. Weitere Informationen finden Sie unter Slurm-Arbeitslastmanager.

• Zusammenfassende Messwerte

  • Zusammenfassende Messwerte sind ein einzelner Wert für jeden Messwertschlüssel in einer Testausführung. Beispiel: Die Testgenauigkeit eines Tests ist die Genauigkeit, die anhand eines Test-Datasets am Ende des Trainings berechnet wird und als einzelner zusammenfassender Messwert erfasst werden kann.

• TensorBoard

  • TensorBoard ist eine Suite von Webanwendungen zum Visualisieren und Analysieren von TensorFlow-Läufen und -Modellen. Weitere Informationen finden Sie unter TensorBoard.

• TensorBoard-Instanz

  • Eine TensorBoard-Instanz ist eine regionalisierte Ressource, in der Vertex AI TensorBoard-Tests gespeichert werden, die mit einem Projekt verknüpft sind. Sie können in einem Projekt mehrere TensorBoard-Instanzen erstellen, wenn Sie beispielsweise mehrere CMEK-fähige Instanzen benötigen. Dies entspricht der TensorBoard-Ressource in der API.

• TensorBoard-Ressourcenname

  • Ein TensorBoard-Ressourcenname wird verwendet, um eine Vertex AI TensorBoard-Instanz vollständig zu identifizieren. Das Format lautet: projects/PROJEKT-ID_ODER_-NUMBER/locations/REGION/tensorboards/TENSORBOARD-INSTANZ-ID.

• zeitlicher Versatz, Zeitstempel

  • Der zeitliche Versatz bezieht sich auf den Beginn eines Videos.

• Zeitachsenmesswerte

  • Zeitachsenmesswerte sind Längengradmesswerte, wobei jeder Wert einen Schritt im Teil der Trainingsroutine einer Ausführung darstellt. Zeitachsenmesswerte werden in Vertex AI TensorBoard gespeichert. Vertex AI Experiments speichert einen Verweis auf die Vertex TensorBoard-Ressource.

• Token

  • Ein Token in einem Sprachmodell ist die atomare Einheit, die das Modell trainiert und für die es Vorhersagen trifft, nämlich Wörter, Morpheme und Zeichen. In anderen Bereichen als Sprachmodellen können Tokens andere Arten von atomaren Einheiten darstellen. Bei Computer Vision kann ein Token beispielsweise ein Teil eines Bildes sein. Weitere Informationen finden Sie unter Tokens auflisten und zählen.

• Trajektorie

  • Eine „Trajektorie“ bezieht sich auf eine Folge von Schritten oder Aktionen, die von einem Agent oder Modell ausgeführt werden. Sie wird häufig bei der Bewertung generativer Modelle verwendet, bei denen die Fähigkeit des Modells, Text, Code oder andere Inhalte zu generieren, bewertet wird. Es gibt verschiedene Arten von Trajektorienmesswerten, die zur Bewertung generativer Modelle verwendet werden können, darunter „Trajectory Exact Match“, „Trajectory In-Order Match“, „Trajectory Any Order Match“ und „Trajectory Precision“. Diese Messwerte messen die Ähnlichkeit zwischen der Ausgabe des Modells und einer Reihe von von Menschen generierten Referenzausgaben.

• Transformer

  • Ein „Transformer“ ist eine neuronale Netzwerkarchitektur, die den meisten modernen generativen Modellen zugrunde liegt. Sie wird in verschiedenen Language Model-Anwendungen eingesetzt, darunter auch bei der Übersetzung. Transformer bestehen aus einem Encoder und einem Decoder. Der Encoder wandelt Eingabetext in eine Zwischenrepräsentation um und der Decoder wandelt diese in eine nützliche Ausgabe um. Sie nutzen einen Self-Attention-Mechanismus, um Kontext aus Wörtern zu erfassen, die das zu verarbeitende Wort umgeben. Das Trainieren eines Transformers erfordert zwar erhebliche Ressourcen, das Feinabstimmen eines vortrainierten Transformers für bestimmte Anwendungen ist jedoch effizienter.

• Bestärkendes Lernen für Transformer

  • Transformer Reinforcement Learning (TRL) bezieht sich auf die Anwendung von Reinforcement-Learning-Techniken (RL) zum Trainieren von Transformer-basierten Modellen für generative Aufgaben. Dieser Ansatz behebt Einschränkungen herkömmlicher generativer Modelle, die oft für die Vorhersage des nächsten Tokens trainiert werden, ohne dass explizit auf wünschenswerte Eigenschaften wie Kohärenz, Sicherheit und Sensibilität optimiert wird. TRL optimiert das Language Model direkt anhand komplexer Ziele mithilfe von RL. Dabei wird häufig menschliches Feedback (RLHF) berücksichtigt, um den Lernprozess zu steuern. Beispiele hierfür sind die Feinabstimmung von Modellen, um mithilfe von Belohnungsmodellen weniger schädliche Inhalte zu generieren, und die Verwendung von TRL zur Feinabstimmung von Gemma, einem generativen Modell. Weitere Informationen finden Sie unter Hugging Face DLCs: Fine-tuning Gemma with Transformer Reinforcement Learning (TRL) on Vertex AI.

• Richtig positiv

  • Ein „richtig positives Ergebnis“ bezieht sich auf eine Inferenz, bei der das Modell eine positive Klasse richtig identifiziert. Wenn ein Modell beispielsweise trainiert wird, um Kunden zu identifizieren, die eine Jacke kaufen werden, wäre eine richtig-positive Vorhersage, dass ein Kunde einen solchen Kauf tätigen wird.

• Validierung

  • Bei der Validierung wird die Qualität der Schlussfolgerungen eines Modells anhand des Validierungssets geprüft. Dazu müssen Messwerte definiert werden, um die Qualität, Geschwindigkeit, Einhaltung von Anweisungen und Sicherheit der generierten Inhalte zu messen. Bei der Validierung werden häufig gelabelte Daten (Eingabe-Prompts und erwartete Ausgaben) verwendet, um die Inferenz des Modells mit der Ground Truth zu vergleichen. Es können Messwerte wie der F1-Wert (für die Klassifizierung) und der ROUGE-L-Wert (für die Zusammenfassung) verwendet werden. Der Prozess umfasst auch das Testen von Grenz- und ungewöhnlichen Szenarien, um die Robustheit zu gewährleisten. Bei bereitgestellten Modellen helfen kontinuierliches Monitoring und die Erfassung von gängigen Datenpunkten und Grenzfall-Szenarien, zukünftige Validierungsbemühungen zu verbessern.

• vector

  • Ein Vektor ist eine numerische Darstellung von Text, Bildern oder Videos, die Beziehungen zwischen Eingaben erfasst. Machine-Learning-Modelle eignen sich zum Erstellen von Einbettungen, da sie Muster in großen Datasets erkennen können. Anwendungen können Einbettungen verwenden, um Sprache zu verarbeiten und zu erzeugen und komplexe Bedeutungen und semantische Beziehungen zu erkennen, die für die Inhalte spezifisch sind. Weitere Informationen finden Sie in der Übersicht über Einbettungen-APIs.

• Vertex AI Agent Engine

  • Vertex AI Agent Engine ist Teil der Vertex AI-Plattform und bietet eine Reihe von Diensten, mit denen Entwickler KI-Agents in der Produktion bereitstellen, verwalten und skalieren können. Agent Engine verwaltet die Infrastruktur zum Skalieren von Agents in der Produktion, sodass Sie sich auf die Entwicklung von Anwendungen konzentrieren können. Weitere Informationen finden Sie in der Übersicht zu Vertex AI Agent Engine.

• Vertex AI Experiments

  • Mit Vertex AI Experiments können Nutzer Folgendes erfassen: 1. Schritte einer Testausführung, z. B. Vorverarbeitung und Training. 2. Eingaben, z. B. Algorithmus, Parameter und Datasets. 3. Ausgaben dieser Schritte, z. B. Modelle, Prüfpunkte und Messwerte.

• Vertex AI Inference

  • Ein Vertex AI-Dienst, mit dem Sie ein trainiertes Modell für maschinelles Lernen (ML) verwenden können, um Rückschlüsse aus neuen, unbekannten Daten zu ziehen. Vertex AI bietet Dienste zum Bereitstellen von Modellen für Inferenz. Weitere Informationen finden Sie unter Rückschlüsse aus einem benutzerdefinierten Modell ziehen.

• Vertex AI Model Registry

  • Vertex AI Model Registry ist ein zentrales Repository, in dem Sie den Lebenszyklus Ihrer ML-Modelle verwalten können. Vertex AI Model Registry bietet eine Übersicht über Ihre Modelle, sodass Sie neue Versionen besser organisieren, verfolgen und trainieren können. Wenn Sie eine Modellversion haben, die Sie bereitstellen möchten, können Sie sie einem Endpunkt direkt aus der Registry zuweisen oder Modelle mithilfe von Aliassen auf einem Endpunkt bereitstellen. Weitere Informationen finden Sie unter Einführung in Vertex AI Model Registry.

• Videosegment

  • Ein Videosegment wird durch den zeitlichen Versatz am Beginn und Ende eines Videos identifiziert.

• Virtual Private Cloud (VPC)

  • Eine sichere, isolierte private Cloud, die in einer öffentlichen Cloud gehostet wird. Damit können Sie ein virtuelles Netzwerk definieren, das logisch von anderen virtuellen Netzwerken in Google Cloud isoliert ist. Weitere Informationen finden Sie unter Virtual Private Cloud.

• VPC-Netzwerk-Peering

  • Eine Netzwerkverbindung, die es zwei VPC-Netzwerken ermöglicht, privat zu kommunizieren. Im Kontext von Managed Training auf reservierten Clustern ist VPC-Netzwerk-Peering eine wichtige Komponente für die Integration wichtiger Dienste. Es ist beispielsweise die erforderliche Methode, um das VPC-Netzwerk Ihres Clusters mit einer Filestore-Instanz zu verbinden, die das erforderliche freigegebene `/home`-Verzeichnis für alle Knoten in Ihrem Cluster bereitstellt.

• Worteinbettung

  • Worteinbettungen sind eine Möglichkeit, Wörter als dichte Vektoren von Gleitkommawerten darzustellen. So können ähnliche Wörter ähnlich codiert werden. Wort-Embeddings werden häufig in generativer KI verwendet, um die Beziehungen zwischen Wörtern zu erfassen und neuen Text oder Code zu generieren. In der generativen KI können Wort-Embeddings verwendet werden, um Modelle zu trainieren, die neuen Text oder Code generieren können. Durch das Verständnis der Beziehungen zwischen Wörtern können generative KI-Modelle neue Inhalte erstellen, die sowohl kohärent als auch relevant sind.

• Zero-Shot-Prompt (direktes Prompting)

  • In der generativen KI ist ein Zero-Shot-Prompt ein Prompt, der es einem Large Language Model (LLM) ermöglicht, eine Aufgabe ohne zusätzliches Training oder Beispiele auszuführen. Das steht im Gegensatz zu Methoden wie Few-Shot-Prompts, bei denen dem Modell Beispiel-Ein- und Ausgaben zur Verfügung gestellt werden. Ein Zero-Shot-Prompt stützt sich ausschließlich auf das vorhandene Wissen des Modells, um eine Antwort zu generieren. Weitere Informationen finden Sie unter Zero-Shot-Prompt.

• zone

  • Ein bestimmter Bereitstellungsbereich innerhalb einer Google Cloud-Region. Im Kontext von Managed Training auf reservierten Clustern sollten alle Komponenten des Dienstes (der Cluster, Filestore und Managed Lustre-Instanzen) in derselben Zone erstellt werden, um eine optimale Leistung zu erzielen.