התקנה של ספריות הלקוח של Vertex AI

ספריות הלקוח של Vertex AI ב-Google Distributed Cloud (GDC)‎ עם air gap מאפשרות לכם לגשת באופן פרוגרמטי לממשקי ה-API של זיהוי תווים אופטי (OCR), המרת דיבור לטקסט, Vertex AI Translation ו-Vertex AI Platform, בלי לכתוב בקשות גולמיות לשרת. מחלצים ומתקינים ספריית לקוח ישירות מקובץ ה-tar שלה, או מייבאים את הספרייה ב-JupyterLab notebook. איך מנהלים סביבות של Notebooks?

המסמך הזה מיועד למפתחי אפליקציות בקבוצות של מפעילי אפליקציות, שמגדירים סביבות פיתוח וסביבות של אפליקציות כדי להפעיל תכונות מבוססות-AI. מידע נוסף זמין במאמר קהלי היעד של GDC עם air gap.

ספריות לקוח של Vertex AI

ל-Vertex AI יש גרסאות שונות של ספריות לקוח למערכות ההפעלה CentOS ו-Ubuntu.

מוסכמות מתן השמות של ספריות הלקוח של Vertex AI בקובץ ה-tar מבוססות על מערכת ההפעלה, שם השירות והגרסה. שמות הקבצים הם בפורמט הבא:

OS-google-cloud-SERVICE-VERSION.tar.gz

מחליפים את מה שכתוב בשדות הבאים:

• ‫OS: השם של מערכת ההפעלה שבה רוצים להתקין את ספריית הלקוח. הערכים המותרים הם centos ו-ubuntu.

• ‫SERVICE: השם של שירות Vertex AI שממנו רוצים להוריד את ספריית הלקוח. אלה הערכים המותרים:

  • ‫aiplatform: ספריית הלקוח של Vertex AI Platform.
  • ‫speech: ספריית הלקוח של Speech-to-Text.
  • ‫translate: ספריית הלקוח של Vertex AI Translation.
  • ‫vision: ספריית הלקוח של ה-OCR.

• ‫VERSION: מספר הגרסה של ספריית הלקוח, למשל 3.8.0.

בטבלה הבאה מפורטות ספריות הלקוח של Vertex AI שנתמכות ב-Distributed Cloud:

שירות Vertex AI	מערכת הפעלה	שם קובץ
OCR	Centos	centos-google-cloud-vision-3.0.0.tar.gz
	Ubuntu	ubuntu-google-cloud-vision-3.0.0.tar.gz
המרת דיבור לטקסט (STT)	Centos	centos-google-cloud-speech-2.15.0.tar.gz
	Ubuntu	ubuntu-google-cloud-speech-2.15.0.tar.gz
Vertex AI Translation	Centos	centos-google-cloud-translate-3.8.0.tar.gz
	Ubuntu	ubuntu-google-cloud-translate-3.8.0.tar.gz
Vertex AI Platform	Centos	centos-google-cloud-aiplatform-1.34.0.tar.gz
	Ubuntu	ubuntu-google-cloud-aiplatform-1.34.0.tar.gz

חשוב: כדי להשתמש במודלים של AI גנרטיבי כמו Text Embedding ו-Text Embedding Multilingual, צריך להתקין את ספריית הלקוח של Vertex AI Platform.

לפני שמתחילים

לפני שמורידים את קובץ ה-tar ומחלצים את ספריות הלקוח, מבצעים את הפעולות הבאות:

1. הגדרת פרויקט ל-Vertex AI.

2. אימות באמצעות gdcloud CLI:

   gdcloud auth login
   

   למידע נוסף על אימות באמצעות ספק הזהויות שהגדרתם, קראו את המאמר אימות ב-gdcloud CLI.

3. מוודאים שמותקנת גרסת Python מ-3.7 עד 3.10. קובצי ה-tarball של ספריית הלקוח מכילים קובצי wheel לגרסאות cp37 עד cp310.

התקנה של ספריית לקוח

אחרי שמשלימים את הדרישות המוקדמות, פועלים לפי השלבים הבאים כדי להוריד את קובץ ה-tar ולהשתמש בו להתקנת ספריית לקוח:

1. מורידים את ספריית הלקוח שרוצים להתקין:

   wget https://GDC_URL/.well-known/static/client-libraries/CLIENT_LIBRARY
   

   מחליפים את מה שכתוב בשדות הבאים:

   • ‫GDC_URL: כתובת ה-URL של מסוף GDC של הארגון.
   • ‫CLIENT_LIBRARY: שם הקובץ של ספריית הלקוח שרוצים להוריד.

2. מחלצים את קובץ הספרייה:

   tar -zxf CLIENT_LIBRARY
   

   חילוץ של OS-google-cloud-SERVICE-VERSION.tar.gz (לדוגמה, centos-google-cloud-speech-2.15.0.tar.gz) יוצר את הספרייה LIBRARY_NAME (לדוגמה, google-cloud-speech, בלי הקידומת OS- או הסיומת -VERSION).

3. מתקינים את ספריית הלקוח ב-Distributed Cloud:

   pip install -r LIBRARY_NAME/requirements.txt --no-index --find-links LIBRARY_NAME
   

   מחליפים את LIBRARY_NAME בשם של ספריית החילוץ, למשל google-cloud-speech.

4. אם התקנתם את ספריית הלקוח של Speech-to-Text, ודאו שההתקנה והגרסה (2.15.0) תקינות:

   הערה: בקריאות ל-Speech-to-Text API ב-Distributed Cloud צריך לייבא את from google.cloud import speech_v1p1beta1 as speech כי שער ה-API מנתב את השירות google.cloud.speech.v1p1beta1.Speech. ייבוא של from google.cloud import speech מוגדר כברירת מחדל ל-speech_v1, וקריאות ל-API עם speech_v1 מחזירות את 501 MethodNotImplemented.

   from google.cloud import speech_v1p1beta1 as speech
   
   print(speech.__version__)
   

   הגרסה המותקנת מוצגת בפלט:

   2.15.0
   

5. מייבאים את ספריית הלקוח באמצעות סקריפט Python. בדוגמה הבאה מוצג קטע קוד של סקריפט Python שמייבא את ספריית הלקוח של Vertex AI Translation, כדי להמחיש איך נראה ייבוא של ספריות:

   from google.cloud import translate
   from google.api_core.client_options import ClientOptions
   import google.auth
   from google.auth.transport import requests
   
   creds, _ = google.auth.default()
   creds = creds.with_gdch_audience("https://ENDPOINT:443")
   creds.refresh(requests.Request())
   client = translate.TranslationServiceClient(
       credentials=creds, client_options=ClientOptions(api_endpoint="ENDPOINT:443"))
   response = client.translate_text(request={
       "parent": "projects/PROJECT_ID", "target_language_code": "ru",
       "mime_type": "text/plain", "contents": ["Hello"]})
   print(response.translations[0].translated_text)
   

   מחליפים את מה שכתוב בשדות הבאים:

   • ENDPOINT: נקודת הקצה של Vertex AI Translation שמשמשת את הארגון, בלי הקידומת https:// או היציאה :443. למידע נוסף על סטטוס השירות ונקודות הקצה
   • PROJECT_ID: מזהה הפרויקט.

   למידע נוסף על שליחת בקשות ל-Vertex AI Translation, קראו על תכונות התרגום או על תרגום טקסט.

   הערה: ספריית הלקוח google-cloud-translate 3.8.0 לא חושפת את השדה s3_source, ולכן היא לא יכולה ליצור מילוני מונחים או לתרגם מסמכים מקטגוריות אחסון. במקום זאת, צריך להשתמש ב-API בארכיטקטורת REST כדי ליצור מילון מונחים או לתרגם מסמכים מקטגוריה.

6. שומרים את הסקריפט של Python בשם כלשהו, למשל translation-service.py.

7. מריצים את הסקריפט של Python:

   python SCRIPT_NAME
   

   מחליפים את SCRIPT_NAME בשם שנתתם לסקריפט Python, למשל translation-service.py.