Vertex AI-Clientbibliotheken installieren

Auf dieser Seite wird beschrieben, wie Sie Vertex AI-Clientbibliotheken für Google Distributed Cloud (GDC) mit Air Gap installieren, um über Ihre Anwendungs- und Entwicklungsumgebung mit verschiedenen Vertex AI-Diensten zu interagieren. Sie können sich über die für Vertex AI APIs verfügbaren Clientbibliotheken und die Schritte zu ihrer Installation aus der TAR-Datei informieren.

Diese Seite richtet sich an Anwendungsentwickler in Gruppen von Anwendungsoperatoren, die für die Einrichtung ihrer Anwendungs- und Entwicklungsumgebungen zur Aktivierung von KI-Funktionen verantwortlich sind. Weitere Informationen finden Sie unter Dokumentation zu Zielgruppen für GDC mit Air Gap.

Jeder Vertex AI-Dienst bietet eine API. Sie können zwar direkt über Rohanfragen an den Server mit diesen APIs interagieren, aber Clientbibliotheken vereinfachen den programmatischen Zugriff über unterstützte Sprachen in Distributed Cloud. Sie reduzieren den erforderlichen Code, insbesondere bei der Arbeit in Umgebungen wie einem JupyterLab-Notebook.

Sie können eine Vertex AI-Clientbibliothek mit den folgenden Methoden installieren:

• Extrahieren Sie die Bibliotheksdatei direkt aus der TAR-Datei.
• Verwenden Sie ein JupyterLab-Notebook, um die Bibliothek zu importieren.
• Clientbibliothek aus einem Notebook importieren Weitere Informationen finden Sie unter Notebooks verwalten.

Vertex AI-Clientbibliotheken

Vertex AI bietet verschiedene Versionen von Clientbibliotheken für die Betriebssysteme CentOS und Ubuntu.

Die Namenskonventionen der Vertex AI-Clientbibliotheken in der TAR-Datei basieren auf dem Betriebssystem, dem Dienstnamen und der Version. Die Dateinamen haben das folgende Format:

OS-google-cloud-SERVICE-VERSION.tar.gz

Ersetzen Sie Folgendes:

• OS: der Name des Betriebssystems, auf dem Sie die Clientbibliothek installieren möchten. Zulässige Werte sind centos und ubuntu.

• SERVICE: der Name des Vertex AI-Dienstes, von dem Sie die Clientbibliothek herunterladen möchten. Folgende Werte sind zulässig:

  • aiplatform: die Vertex AI Platform-Clientbibliothek.
  • speech: die Speech-to-Text-Clientbibliothek.
  • translate: die Vertex AI Translation-Clientbibliothek.
  • vision: die OCR-Clientbibliothek.

• VERSION: die Versionsnummer der Clientbibliothek, z. B. 3.8.0.

Die folgende Tabelle enthält die Vertex AI-Clientbibliotheken, die von Distributed Cloud unterstützt werden:

Vertex AI-Dienst	Betriebssystem	Dateiname
OCR	Centos	centos-google-cloud-vision-3.0.0.tar.gz
	Ubuntu	ubuntu-google-cloud-vision-3.0.0.tar.gz
Speech-to-Text	Centos	centos-google-cloud-speech-2.15.0.tar.gz
	Ubuntu	ubuntu-google-cloud-speech-2.15.0.tar.gz
Vertex AI Translation	Centos	centos-google-cloud-translate-3.8.0.tar.gz
	Ubuntu	ubuntu-google-cloud-translate-3.8.0.tar.gz
Vertex AI Platform	Centos	centos-google-cloud-aiplatform-1.34.0.tar.gz
	Ubuntu	ubuntu-google-cloud-aiplatform-1.34.0.tar.gz

Wichtig: Sie müssen die Vertex AI Platform-Clientbibliothek installieren, um generative KI-Modelle wie „Texteinbettung“ und „Text Embedding Multilingual“ verwenden zu können.

Hinweis

Führen Sie die folgenden Schritte aus, bevor Sie die TAR-Datei herunterladen und Clientbibliotheken extrahieren:

1. Projekt für Vertex AI einrichten

2. Authentifizieren Sie sich über die gdcloud CLI:

   gdcloud auth login
   

   Weitere Informationen zur Authentifizierung bei Ihrem konfigurierten Identitätsanbieter finden Sie unter Authentifizierung mit der gdcloud CLI.

3. Prüfen Sie, ob Sie Python 3.7 bis 3.10 installiert haben. Die Tarballs der Clientbibliothek enthalten Wheels für cp37 bis cp310.

Clientbibliothek installieren

Nachdem Sie die Voraussetzungen erfüllt haben, führen Sie die folgenden Schritte aus, um die TAR-Datei herunterzuladen und damit eine Clientbibliothek zu installieren:

1. Laden Sie die Clientbibliothek herunter, die Sie installieren möchten:

   wget https://GDC_URL/.well-known/static/client-libraries/CLIENT_LIBRARY
   

   Ersetzen Sie Folgendes:

   • GDC_URL: die URL der GDC Console für Ihre Organisation.
   • CLIENT_LIBRARY: der Dateiname der Clientbibliothek, die Sie herunterladen möchten.

2. Extrahieren Sie die Bibliotheksdatei:

   tar -zxf CLIENT_LIBRARY
   

   Beim Extrahieren von OS-google-cloud-SERVICE-VERSION.tar.gz (z. B. centos-google-cloud-speech-2.15.0.tar.gz) wird das Verzeichnis LIBRARY_NAME erstellt (z. B. google-cloud-speech, ohne das Präfix OS- oder das Suffix -VERSION).

3. Installieren Sie die Clientbibliothek in Distributed Cloud:

   pip install -r LIBRARY_NAME/requirements.txt --no-index --find-links LIBRARY_NAME
   

   Ersetzen Sie LIBRARY_NAME durch den Namen des extrahierten Bibliotheksverzeichnisses, z. B. google-cloud-speech.

4. Wenn Sie die Speech-to-Text-Clientbibliothek installiert haben, prüfen Sie die Installation und die Version (2.15.0):

   Hinweis: Speech-to-Text API-Aufrufe in Distributed Cloud müssen from google.cloud import speech_v1p1beta1 as speech importieren, da das API-Gateway den Dienst google.cloud.speech.v1p1beta1.Speech weiterleitet. Beim Importieren von from google.cloud import speech wird standardmäßig speech_v1 verwendet und API-Aufrufe mit speech_v1 geben 501 MethodNotImplemented zurück.

   from google.cloud import speech_v1p1beta1 as speech
   
   print(speech.__version__)
   

   In der Ausgabe wird die installierte Version angezeigt:

   2.15.0
   

5. Importieren Sie die Clientbibliothek mit einem Python-Skript. Das folgende Beispiel zeigt ein Code-Snippet eines Python-Skripts, das die Vertex AI Translation-Clientbibliothek importiert, um zu veranschaulichen, wie das Importieren von Bibliotheken aussieht:

   from google.cloud import translate
   from google.api_core.client_options import ClientOptions
   import google.auth
   from google.auth.transport import requests
   
   creds, _ = google.auth.default()
   creds = creds.with_gdch_audience("https://ENDPOINT:443")
   creds.refresh(requests.Request())
   client = translate.TranslationServiceClient(
       credentials=creds, client_options=ClientOptions(api_endpoint="ENDPOINT:443"))
   response = client.translate_text(request={
       "parent": "projects/PROJECT_ID", "target_language_code": "ru",
       "mime_type": "text/plain", "contents": ["Hello"]})
   print(response.translations[0].translated_text)
   

   Ersetzen Sie Folgendes:

   • ENDPOINT: der Vertex AI Translation-Endpunkt, den Sie für Ihre Organisation verwenden, ohne das Präfix https:// oder den Port :443. Weitere Informationen finden Sie unter Dienststatus und Endpunkte ansehen.
   • PROJECT_ID: Ihre Projekt-ID.

   Weitere Informationen zum Senden von Vertex AI Translation-Anfragen finden Sie unter Übersetzungsfunktionen oder Text übersetzen.

   Hinweis: Die Clientbibliothek google-cloud-translate 3.8.0 stellt das Feld s3_source nicht bereit. Daher können keine Glossare erstellt oder Dokumente aus Storage-Buckets übersetzt werden. Verwenden Sie stattdessen die REST API, um ein Glossar zu erstellen oder Dokumente aus einem Bucket zu übersetzen.

6. Speichern Sie das Python-Skript unter einem Namen, z. B. translation-service.py.

7. Führen Sie das Python-Skript aus:

   python SCRIPT_NAME
   

   Ersetzen Sie SCRIPT_NAME durch den Namen, den Sie Ihrem Python-Skript gegeben haben, z. B. translation-service.py.