Endpunkte bereitstellen und verwalten

Verwenden Sie ein trainiertes benutzerdefiniertes Speech-to-Text-Modell in Ihrer Produktionsanwendung oder in Benchmarking-Workflows. Sie müssen das Modell über einen dedizierten Endpunkt bereitstellen und verfügbar machen, der unter anderem erstellt wurde, um das Modell in der von Ihnen ausgewählten Region bereitzustellen. Sie erhalten automatisch programmatischen Zugriff über ein Erkennungsobjekt. Es wird direkt über die V2 API oder in der Google Cloud Console verwendet. Sie können Ihr Modell in einer anderen Region bereitstellen als der, in der es trainiert wurde. Es wird jedoch eine Kopie des Modells in der Region erstellt, die durch den Endpunkt angegeben wird.

Wenn Sie ein benutzerdefiniertes Sprachmodell verwenden möchten, müssen Sie es über einen dedizierten Endpunkt bereitstellen und verfügbar machen. Wenn Sie einen Endpunkt erstellen, stellen Sie das Modell damit in der Region Ihrer Wahl bereit. Sie erhalten automatisch programmatischen Zugriff über ein Erkennungsobjekt, das Sie direkt über die V2 API für die Inferenz oder in der Google Cloud Console verwenden können.

Vorbereitung

Sie müssen sich für ein Google Cloud -Konto registriert, ein Projekt erstellt und ein benutzerdefiniertes Sprachmodell trainiert haben.

  1. Rufen Sie in der Google Cloud Console Speech und dann Cloud Speech-to-Text auf.
  2. Navigieren Sie in der Navigationsleiste auf der linken Seite im Bereich Benutzerdefinierte Modelle.

Endpunkt erstellen

  1. Rufen Sie im Bereich Benutzerdefinierte Modelle den Tab Endpunkte auf.
  2. Klicken Sie auf Neuer Endpunkt.
  3. Geben Sie einen Namen für den Endpunkt ein. Dieser Name dient als eindeutige Kennung für Ihre Endpunktressource und wird zum Aufrufen Ihres benutzerdefinierten Sprachmodells für die Inferenz verwendet.
  4. Legen Sie die Region fest, in der Ihr benutzerdefiniertes Sprachmodell bereitgestellt werden soll. Wenn das Modell in einer anderen Region trainiert wurde als jener, die in der Endpunktkonfiguration festgelegt wurde, wird automatisch eine neue Modellkopie erstellt.
  5. Wählen Sie in der Liste das trainierte benutzerdefinierte Sprachmodell aus, das Sie über den Endpunkt verfügbar machen möchten.
  6. Klicken Sie auf Erstellen. Ihr benutzerdefiniertes Sprachmodell wird umgehen in Ihrem Endpunkt bereitgestellt und kann für die Inferenz und das Benchmarking verwendet werden.
Workflow zum Erstellen eines benutzerdefinierten Speech-to-Text-Modellendpunkts mit den Feldern, die zum Konfigurieren eines neuen Endpunkts erforderlich sind
Workflow zum Erstellen eines benutzerdefinierten Speech-to-Text-Modellendpunkts

Endpunkte auflisten

Sie können die zugehörigen Endpunkte in der Console verwalten, indem Sie im Bereich „Benutzerdefinierte Modelle“ den Tab „Endpunkte“ auswählen. Sie können auch die Endpunkte, die Sie in der Console erstellt haben, zusammen mit ihrem aktuellen Status und dem zugehörigen benutzerdefinierten Cloud Speech-to-Text-Modell auflisten.

Workflow für die Liste der benutzerdefinierten Speech-to-Text-Modellendpunkte mit einer Tabelle mit allen bereits erstellten Endpunkten benutzerdefinierter Modelle
Workflow für die Liste der benutzerdefinierten Speech-to-Text-Modellendpunkte

Endpunkt löschen

Bevor Sie beginnen, sollten Sie dafür sorgen, dass kein Traffic über Ihren Endpunkt geleitet wird, da er nach dem Löschen keine Anfragen mehr verarbeitet.

  1. Rufen Sie im Bereich Benutzerdefinierte Modelle den Tab Endpunkte auf.
  2. Klicken Sie auf dem Tab Endpunkte, um die Optionen zu maximieren, und dann auf Löschen. Der Endpunkt wird umgehend gelöscht und stellt keinen Traffic mehr bereit.

Modell-Benchmarking durchführen

Um das benutzerdefinierte Speech-to-Text-Modell und Ihr Benchmarking-Dataset zur Bewertung der Genauigkeit Ihres Modells zu nutzen, folgen Sie der Anleitung unter Genauigkeit messen und verbessern.