Mengaktifkan runtime default dengan GPU

Untuk mendapatkan dukungan selama pratinjau, kirim email ke vertex-notebooks-previews-external@google.com.

Dokumen ini menjelaskan cara mengaktifkan runtime default dengan GPU untuk pengguna Colab Enterprise dalam suatu project. Setelah mengaktifkan runtime default dengan GPU, pengguna dapat beralih dari runtime default biasa ke runtime default dengan GPU dengan mengklik tombol di notebook mereka.

Dokumen ini ditujukan bagi administrator Colab Enterprise yang ingin mengaktifkan runtime default dengan GPU untuk pengguna lain di organisasi mereka. Tutorial ini mengasumsikan bahwa Anda memiliki pengetahuan tentang hal berikut:

  • Cara mengelola runtime dan template runtime Colab Enterprise.
  • Cara menggunakan Identity and Access Management (IAM) untuk mengontrol akses.

Ringkasan

Agar pengguna dapat beralih ke runtime default dengan GPU, administrator (roles/aiplatform.colabEnterpriseAdmin) atau akun pengguna dengan izin aiplatform.notebookRuntimeTemplates.create harus membuat runtime default dengan GPU terlebih dahulu.

Saat Anda membuat runtime default dengan GPU untuk pertama kalinya, Colab Enterprise akan membuat template runtime default baru yang menyertakan GPU dalam spesifikasinya. Runtime default asli tidak terpengaruh dan ada hingga masa berlakunya berakhir atau dihapus. Setelah template runtime default baru dengan GPU dibuat, setiap pengguna dengan izin aiplatform.notebookRuntimes.assign di project dan izin aiplatform.notebookRuntimeTemplates.apply di template runtime dapat membuat dan menggunakan runtime default dengan GPU. Izin ini disertakan dalam peran Colab Enterprise User (roles/aiplatform.colabEnterpriseUser).

Spesifikasi

Runtime default dengan GPU memiliki spesifikasi yang berbeda dengan runtime default asli. Jenis mesin, GPU, dan jenis disk data yang tersedia bervariasi menurut region, sehingga beberapa spesifikasi dapat berbeda dari runtime default asli Anda.

Tabel berikut menjelaskan spesifikasi untuk runtime default dengan GPU berdasarkan region runtime default.

Deskripsi region Spesifikasi runtime default
Region yang mendukung GPU L4
  • Machine type: g2-standard-4
  • Akselerator: 1 akselerator NVIDIA_L4
  • Disk data: 100 GB pd-balanced
Region yang tidak mendukung GPU L4, tetapi mendukung GPU T4
  • Machine type: n1-standard-4
  • Akselerator: 1 akselerator NVIDIA_TESLA_T4
  • Disk data: 100 GB pd-standard
Region yang tidak mendukung GPU L4 atau T4 Runtime default dengan GPU tidak didukung.

Ketersediaan akselerator

Colab Enterprise mendukung runtime default dengan jenis akselerator berikut:

  • L4
  • T4

Untuk mempelajari ketersediaan regional akselerator ini, lihat bagian Menggunakan akselerator.

Sebelum memulai

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  3. Verify that billing is enabled for your Google Cloud project.

  4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Roles required to enable APIs

    To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

    Enable the APIs

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Roles required to select or create a project

    • Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
    • Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

    Go to project selector

  6. Verify that billing is enabled for your Google Cloud project.

  7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Roles required to enable APIs

    To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

    Enable the APIs

  8. Peran yang diperlukan

    Untuk memastikan bahwa akun pengguna Anda memiliki izin yang diperlukan untuk mengaktifkan runtime default dengan GPU di Colab Enterprise, minta administrator untuk memberi akun pengguna Anda peran IAM Colab Enterprise Admin (roles/aiplatform.colabEnterpriseAdmin) di project itu.

    Untuk mengetahui informasi selengkapnya tentang pemberian peran, lihat Mengelola akses ke project, folder, dan organisasi.

    Administrator Anda mungkin juga dapat memberi akun pengguna Anda izin yang diperlukan melalui peran khusus atau peran yang telah ditetapkan lainnya.

    Mengaktifkan GPU untuk runtime default

    Untuk mengaktifkan GPU untuk runtime default, lakukan hal berikut:

    1. Di konsol Google Cloud , buka halaman Notebook saya Colab Enterprise.

      Buka Notebook saya

    2. Di menu Region, pilih region yang berisi notebook Anda.

    3. Klik notebook yang ingin Anda buka. Jika Anda belum membuat notebook, buat notebook terlebih dahulu.

    4. Di notebook Anda, klik Connect.

    5. Setelah Colab Enterprise terhubung ke runtime default, di sudut kanan atas notebook, klik tombol untuk beralih ke runtime default dengan GPU. Misalnya, jika notebook Anda berada di region yang mendukung akselerator L4, klik Beralih ke L4.

    Colab Enterprise membuat runtime default baru yang memiliki GPU, lalu terhubung ke runtime tersebut. Kemampuan untuk beralih ke runtime default dengan GPU diaktifkan untuk pengguna lain dalam project.

    Menonaktifkan GPU untuk runtime default

    Untuk menonaktifkan kemampuan beralih ke runtime default dengan GPU, Anda harus menghapus template runtime bernama Default with GPU. Lihat Menghapus template runtime.

    Batasan

    • Runtime default dengan GPU hanya tersedia di region yang mendukung ketersediaan akselerator tertentu. Lihat Ketersediaan akselerator.

    • Anda harus menghubungkan notebook ke runtime default terlebih dahulu agar dapat beralih ke runtime default dengan GPU.

    Langkah berikutnya