Membuat instance TensorFlow Deep Learning VM

Halaman ini menunjukkan cara membuat instance TensorFlow Deep Learning VM Images dengan TensorFlow dan alat lainnya yang telah diinstal sebelumnya. Anda dapat membuat instance TensorFlow dari Cloud Marketplace di dalam konsol Google Cloud atau menggunakan command line.

Sebelum memulai

  1. Login keakun Anda. Google Cloud Jika Anda baru menggunakan Google Cloud, buat akun untuk mengevaluasi performa produk kami dalam skenario dunia nyata. Pelanggan baru juga mendapatkan kredit gratis senilai $300 untuk menjalankan, menguji, dan men-deploy workload.

  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  3. Verify that billing is enabled for your Google Cloud project.

  4. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  5. Verify that billing is enabled for your Google Cloud project.

  6. Jika Anda menggunakan GPU dengan Deep Learning VM, periksa halaman kuota untuk memastikan bahwa Anda memiliki cukup GPU yang tersedia dalam project Anda. Jika GPU tidak tercantum di halaman kuota atau Anda memerlukan kuota GPU tambahan, minta penambahan kuota.

Membuat instance TensorFlow Deep Learning VM dari Cloud Marketplace

Untuk membuat instance TensorFlow Deep Learning VM dari Cloud Marketplace, selesaikan langkah-langkah berikut:

  1. Buka halaman Deep Learning VM Cloud Marketplace di dalam konsol Google Cloud .

    Buka halaman Deep Learning VM Cloud Marketplace

  2. Klik Mulai.

  3. Masukkan Deployment name, yang akan menjadi root nama VM Anda. Compute Engine akan menambahkan -vm ke nama ini saat memberi nama instance Anda.

  4. Pilih Zone.

  5. Di bagian Jenis mesin, pilih spesifikasi yang Anda inginkan untuk VM Anda. Pelajari jenis-jenis mesin lebih lanjut.

  6. Di bagian GPUs, pilih GPU type dan Number of GPUs. Jika Anda tidak ingin menggunakan GPU, klik tombol Delete GPU dan lewati ke langkah 7. Pelajari GPU lebih lanjut.

    1. Pilih GPU type. Tidak semua jenis GPU tersedia di semua zona. Temukan kombinasi yang didukung.
    2. Pilih Number of GPUs. Setiap GPU mendukung jumlah GPU yang berbeda. Temukan kombinasi yang didukung.

  7. Di bagian Framework, pilih salah satu versi framework TensorFlow.

  8. Jika Anda menggunakan GPU, driver NVIDIA diperlukan. Anda dapat menginstal driver sendiri, atau memilih Install NVIDIA GPU driver automatically on first startup.

  9. Anda memiliki opsi untuk memilih Enable access to JupyterLab via URL instead of SSH (Beta). Dengan mengaktifkan fitur Beta ini, Anda dapat mengakses instance JupyterLab menggunakan URL. Siapa pun yang memiliki peran Editor atau Pemilik di Google Cloud project Anda dapat mengakses URL ini. Saat ini, fitur ini hanya berfungsi di Amerika Serikat, Uni Eropa, dan Asia.

  10. Pilih jenis boot disk dan ukuran boot disk.

  11. Pilih setelan jaringan yang Anda inginkan.

  12. Klik Deploy.

Jika Anda memilih untuk menginstal driver NVIDIA, tunggu 3-5 menit hingga penginstalan selesai.

Setelah VM di-deploy, halaman akan diperbarui dengan petunjuk untuk mengakses instance.

Membuat instance TensorFlow Deep Learning VM dari command line

Untuk menggunakan Google Cloud CLI guna membuat instance Deep Learning VM baru, Anda harus menginstal dan menginisialisasi Google Cloud CLI terlebih dahulu:

  1. Download dan instal Google Cloud CLI menggunakan petunjuk yang diberikan di Menginstal Google Cloud CLI.
  2. Inisialisasi SDK menggunakan petunjuk yang diberikan di Menginisialisasi gcloud CLI.

Untuk menggunakan gcloud di Cloud Shell, aktifkan Cloud Shell terlebih dahulu menggunakan petunjuk yang diberikan di Memulai Cloud Shell.

Anda dapat membuat instance TensorFlow dengan atau tanpa GPU.

Tanpa GPU

Untuk menyediakan instance Deep Learning VM tanpa GPU:

export IMAGE_FAMILY="tf-ent-latest-cpu"
export ZONE="us-west1-b"
export INSTANCE_NAME="my-instance"

gcloud compute instances create $INSTANCE_NAME \
  --zone=$ZONE \
  --image-family=$IMAGE_FAMILY \
  --image-project=deeplearning-platform-release

Opsi:

  • --image-family harus salah satu dari berikut:
    • tf-ent-latest-cpu untuk mendapatkan image TensorFlow Enterprise 2 terbaru
    • Nama kelompok image TensorFlow atau TensorFlow Enterprise sebelumnya family name (lihat Memilih image)
  • --image-project harus deeplearning-platform-release.

Dengan satu atau beberapa GPU

Compute Engine menawarkan opsi untuk menambahkan satu atau beberapa GPU ke instance virtual machine Anda. GPU menawarkan pemrosesan yang lebih cepat untuk banyak tugas machine learning dan data kompleks. Untuk mempelajari GPU lebih lanjut, lihat GPU di Compute Engine.

Untuk menyediakan instance Deep Learning VM dengan satu atau beberapa GPU:

export IMAGE_FAMILY="tf-ent-latest-gpu"
export ZONE="us-west1-b"
export INSTANCE_NAME="my-instance"

gcloud compute instances create $INSTANCE_NAME \
  --zone=$ZONE \
  --image-family=$IMAGE_FAMILY \
  --image-project=deeplearning-platform-release \
  --maintenance-policy=TERMINATE \
  --accelerator="type=nvidia-tesla-v100,count=1" \
  --metadata="install-nvidia-driver=True"

Opsi:

  • --image-family harus salah satu dari berikut:

    • tf-ent-latest-gpu untuk mendapatkan image TensorFlow Enterprise 2 terbaru
    • Nama kelompok image TensorFlow atau TensorFlow Enterprise sebelumnya family name (lihat Memilih image)

  • --image-project harus deeplearning-platform-release.

  • --maintenance-policy harus TERMINATE. Untuk mempelajari lebih lanjut, lihat Batasan GPU.

  • --accelerator menentukan jenis GPU yang akan digunakan. Harus ditentukan dalam format --accelerator="type=TYPE,count=COUNT". Misalnya, --accelerator="type=nvidia-tesla-v100,count=2". Lihat tabel model GPU untuk mengetahui daftar jenis dan jumlah GPU yang tersedia.

    Tidak semua jenis GPU didukung di semua region. Untuk mengetahui detailnya, lihat Ketersediaan region dan zona GPU.

  • --metadata digunakan untuk menentukan bahwa driver NVIDIA harus diinstal atas nama Anda. Nilainya adalah install-nvidia-driver=True. Jika ditentukan, Compute Engine akan memuat driver stabil terbaru saat booting pertama dan melakukan langkah-langkah yang diperlukan (termasuk reboot akhir untuk mengaktifkan driver).

Jika Anda memilih untuk menginstal driver NVIDIA, tunggu 3-5 menit hingga penginstalan selesai.

Mungkin perlu waktu hingga 5 menit sebelum VM Anda disediakan sepenuhnya. Selama waktu ini, Anda tidak akan dapat melakukan SSH ke komputer Anda. Setelah penginstalan selesai, untuk memastikan penginstalan driver berhasil, Anda dapat melakukan SSH dan menjalankan nvidia-smi.

Setelah mengonfigurasi image, Anda dapat menyimpan snapshot image sehingga dapat memulai instance turunan tanpa harus menunggu penginstalan driver.

Tentang TensorFlow Enterprise

TensorFlow Enterprise adalah distribusi TensorFlow yang telah dioptimalkan untuk berjalan di Google Cloud dan menyertakan Dukungan Versi Jangka Panjang.

Membuat preemptible instance

Anda dapat membuat preemptible instance Deep Learning VM. Preemptible instance adalah instance yang dapat Anda buat dan jalankan dengan harga yang jauh lebih rendah dibandingkan instance biasanya. Namun, Compute Engine dapat menghentikan (melakukan preempt) instance ini jika memerlukan akses ke resource tersebut untuk tugas lainnya. Preemptible instance selalu berhenti setelah 24 jam. Untuk mempelajari preemptible instance lebih lanjut, lihat Preemptible VM Instances.

Untuk membuat preemptible instance Deep Learning VM:

  • Ikuti petunjuk yang terletak di atas untuk membuat instance baru menggunakan command line. Untuk perintah gcloud compute instances create, tambahkan hal berikut:

      --preemptible

Langkah berikutnya

Untuk mengetahui petunjuk tentang cara menghubungkan ke instance Deep Learning VM baru Anda melalui Google Cloud konsol atau command line, lihat Menghubungkan ke Instance. Nama instance Anda adalah Deployment name yang Anda tentukan dengan -vm ditambahkan.