ניהול משאבי TPU
בדף הזה מוסבר איך להציג רשימה של TPU VM, ואיך לעצור, להפעיל, למחוק ולהתחבר אליהן.
דרישות מוקדמות
לפני שמריצים את הפרוצדורות האלה, צריך לבצע את השלבים הבאים:
יוצרים פרויקט ב- Google Cloud בשביל ה-TPU, כמו שמתואר במאמר הגדרת פרויקט ב- Google Cloud בשביל TPU.
מגדירים את הדרישות של ה-TPU, כמו שמתואר במאמר תכנון המשאבים של Cloud TPU.
יוצרים מכונת TPU וירטואלית, כמו שמתואר במאמר יצירת מכונת TPU וירטואלית.
אם אתם משתמשים באחת מספריות הלקוח ב-Cloud, צריך לפעול לפי הוראות ההגדרה של השפה שבה אתם משתמשים:
מגדירים משתני סביבה.
export TPU_NAME=your-tpu-name export ZONE=your-zone
התחברות ל-Cloud TPU
אתם יכולים להתחבר ל-Cloud TPU באמצעות SSH.
אם אתם לא מצליחים להתחבר ל-TPU VM באמצעות SSH, יכול להיות של-TPU VM אין כתובת IP חיצונית. כדי לגשת ל-TPU VM בלי כתובת IP חיצונית, פועלים לפי ההוראות במאמר התחברות ל-TPU VM בלי כתובת IP ציבורית.
gcloud
מתחברים ל-Cloud TPU באמצעות SSH:
$ gcloud compute tpus tpu-vm ssh $TPU_NAME --zone=$ZONE
כשמבקשים פרוסה גדולה יותר ממארח יחיד, Cloud TPU יוצר מכונת TPU וירטואלית לכל מארח. מספר שבבי ה-TPU לכל מארח תלוי בגרסת ה-TPU.
כדי להתקין קובצי בינארי או להריץ קוד, מתחברים לכל TPU VM באמצעות הפקודה tpu-vm ssh.
$ gcloud compute tpus tpu-vm ssh $TPU_NAME --zone=$ZONE
כדי להתחבר למכונת TPU וירטואלית ספציפית באמצעות SSH, משתמשים בדגל --worker עם אינדקס שמבוסס על 0:
$ gcloud compute tpus tpu-vm ssh $TPU_NAME --zone=$ZONE --worker=1
כדי להריץ פקודה בכל מכונות ה-TPU הווירטואליות, משתמשים בדגלים --worker=all ו---command:
$ gcloud compute tpus tpu-vm ssh $TPU_NAME \ --zone=$ZONE \ --worker=all \ --command='pip install "jax[tpu]==0.4.20" -f https://storage.googleapis.com/jax-releases/libtpu_releases.html'
ב-Multislice, אפשר להריץ פקודה במכונה וירטואלית אחת באמצעות שם ה-TPU הממוספר, עם כל תחילית של פרוסה והמספר שמצורף אליה. כדי להריץ פקודה בכל המכונות הווירטואליות של ה-TPU בכל הפרוסות, משתמשים בדגלים --node=all, --worker=all ו---command, עם הדגל האופציונלי --batch-size.
$ gcloud compute tpus queued-resources ssh your-queued-resource-id \ --zone=$ZONE \ --node=all \ --worker=all \ --command='pip install jax[tpu] -f https://storage.googleapis.com/jax-releases/libtpu_releases.html' \ --batch-size=4
כשמתחברים למכונות וירטואליות באמצעות Google Cloud CLI, מערכת Compute Engine יוצרת מפתח SSH קבוע.
המסוף
כדי להתחבר ל-TPU במסוף Google Cloud , משתמשים ב-SSH בדפדפן:
נכנסים לדף TPUs במסוף Google Cloud :
ברשימת המכונות הווירטואליות של ה-TPU, לוחצים על SSH בשורה של המכונה הווירטואלית של ה-TPU שרוצים להתחבר אליה.
כשמתחברים למכונות וירטואליות של TPU באמצעות מסוף Google Cloud , מערכת Compute Engine יוצרת מפתח SSH זמני.
רשימת המשאבים של Cloud TPU
אתם יכולים להציג רשימה של כל משאבי ה-Cloud TPU באזור מסוים.
gcloud
$ gcloud compute tpus tpu-vm list --zone=$ZONE
המסוף
נכנסים לדף TPUs במסוף Google Cloud :
Java
כדי לבצע אימות ב-Cloud TPU, אתם צריכים להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Node.js
כדי לבצע אימות ב-Cloud TPU, אתם צריכים להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Python
כדי לבצע אימות ב-Cloud TPU, אתם צריכים להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
אחזור מידע על Cloud TPU
אתם יכולים לאחזר מידע על Cloud TPU ספציפי.
gcloud
$ gcloud compute tpus tpu-vm describe $TPU_NAME \ --zone=$ZONE
המסוף
נכנסים לדף TPUs במסוף Google Cloud :
לוחצים על השם של ה-Cloud TPU. במסוף מוצג דף הפרטים של Cloud TPU.
Java
כדי לבצע אימות ב-Cloud TPU, אתם צריכים להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Node.js
כדי לבצע אימות ב-Cloud TPU, אתם צריכים להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Python
כדי לבצע אימות ב-Cloud TPU, אתם צריכים להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
עצירת משאבי Cloud TPU
כדי להימנע מחיובים, אתם יכולים לעצור Cloud TPU יחיד בלי לאבד את הגדרות ה-VM והתוכנה שלו.
ה-API של משאבים בתור לא תומך בעצירת פרוסות TPU או יחידות TPU. כדי להפסיק את החיובים על יחידות TPU שהוקצו דרך queued resources API, צריך למחוק את יחידת ה-TPU.
gcloud
$ gcloud compute tpus tpu-vm stop $TPU_NAME \ --zone=$ZONE
המסוף
נכנסים לדף TPUs במסוף Google Cloud :
מסמנים את התיבה לצד ה-Cloud TPU.
לוחצים על הפסקה.
Java
כדי לבצע אימות ב-Cloud TPU, אתם צריכים להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Node.js
כדי לבצע אימות ב-Cloud TPU, אתם צריכים להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Python
כדי לבצע אימות ב-Cloud TPU, אתם צריכים להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
הפעלת משאבי Cloud TPU
אפשר להפעיל Cloud TPU שהופסק.
ה-API של משאבים בתור לא תומך בהפעלת TPU Pods או TPU.
gcloud
$ gcloud compute tpus tpu-vm start $TPU_NAME \ --zone=$ZONE
המסוף
נכנסים לדף TPUs במסוף Google Cloud :
מסמנים את התיבה לצד ה-Cloud TPU.
לוחצים על התחלה.
Java
כדי לבצע אימות ב-Cloud TPU, אתם צריכים להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Node.js
כדי לבצע אימות ב-Cloud TPU, אתם צריכים להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Python
כדי לבצע אימות ב-Cloud TPU, אתם צריכים להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
מחיקת Cloud TPU
בסיום הסשן, מחקו את פרוסות ה-TPU VM.
gcloud
$ gcloud compute tpus tpu-vm delete $TPU_NAME \ --zone=$ZONE \ --quiet
תיאורי דגלי הפקודות
-
zone: האזור שבו רוצים למחוק את ה-Cloud TPU. -
quiet: משבית את כל ההנחיות האינטראקטיביות כשמריצים פקודות ב-CLI של gcloud.
המסוף
נכנסים לדף TPUs במסוף Google Cloud :
מסמנים את התיבה לצד ה-Cloud TPU.
לוחצים על מחיקה.
Java
כדי לבצע אימות ב-Cloud TPU, אתם צריכים להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Node.js
כדי לבצע אימות ב-Cloud TPU, אתם צריכים להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
Python
כדי לבצע אימות ב-Cloud TPU, אתם צריכים להגדיר את Application Default Credentials. למידע נוסף, ראו הגדרת אימות לסביבת פיתוח מקומית.
המאמרים הבאים
- איך מגדירים את הרשת והגישה ל-Cloud TPU
- מידע על משאבים בתור
- מידע על יחידות TPU ב-GKE
- איך מריצים קוד JAX ב-TPU VM
- איך מריצים קוד PyTorch ב-TPU VM