Menyiapkan lingkungan Cloud TPU

Sebelum dapat menggunakan resource Cloud TPU untuk melatih atau menjalankan inferensi pada model, Anda harus melakukan langkah-langkah berikut:

Menyiapkan project Google Cloud

Anda harus memiliki Google Cloud akun dan project untuk menggunakan Cloud TPU.

  1. Di Google Cloud konsol, login ke Akun Google Anda atau daftar ke akun baru.

  2. Buat Google Cloud project. Untuk mengetahui informasi selengkapnya, lihat Membuat project.

  3. Aktifkan penagihan untuk Google Cloud project Anda.

    Penyiapan penagihan diperlukan untuk semua Google Cloud penggunaan. Anda hanya akan ditagih setelah Anda mulai menggunakan resource. Google Cloud Untuk mengetahui informasi selengkapnya, lihat dokumentasi Penagihan Cloud.

    Penagihan untuk semua penggunaan versi Cloud TPU mengikuti harga regional standar yang ditampilkan di halaman harga Cloud TPU.

  4. Instal Google Cloud CLI. Google Cloud CLI adalah serangkaian library dan alat untuk mengakses dan mengelola resource dan layanan. Google Cloud

  5. Konfigurasi perintah gcloud yang Anda instal sebagai bagian dari Google Cloud CLI.

    Jalankan perintah berikut untuk mengonfigurasi gcloud agar menggunakan project Google Cloud Anda.

    $ gcloud config set project PROJECT_ID

  6. Pastikan penagihan diaktifkan untuk Google Cloud project Anda.

    Penyiapan penagihan diperlukan untuk semua Google Cloud penggunaan. Anda hanya akan ditagih setelah mulai menggunakan resource Google Cloud . Untuk mengetahui informasi selengkapnya, lihat dokumentasi Penagihan Cloud.

    Penagihan untuk semua penggunaan versi Cloud TPU mengikuti harga regional standar yang ditampilkan di halaman harga Cloud TPU.

Menyiapkan lingkungan untuk menggunakan Cloud TPU

Sebelum meminta Cloud TPU, Anda harus mengaktifkan Cloud TPU API dan memastikan bahwa Anda memiliki izin untuk mengelola akses di project Anda dan membuat Cloud TPU. Sebaiknya Anda juga membuat akun layanan yang dikelola pengguna untuk dilampirkan ke TPU.

  1. Aktifkan Cloud TPU API dari konsol Google Cloud atau menggunakan gcloud CLI di Cloud Shell:

    gcloud

    $ gcloud services enable tpu.googleapis.com

    Konsol

    1. Di konsol Google Cloud , buka halaman Cloud TPU API.

    Buka halaman Cloud TPU API

    1. Klik Enable.

  2. Pastikan Anda memiliki peran berikut di project Anda:

    Ikuti petunjuk di Melihat akses saat ini untuk melihat akun utama mana yang memiliki akses ke project, folder, atau organisasi Anda. Untuk melihat akses Anda sendiri, di kolom Akun utama, cari baris yang berisi alamat email Anda. Jika alamat email Anda tidak ada di kolom tersebut, berarti Anda tidak memiliki peran apa pun. Di kolom Peran untuk baris yang berisi alamat email Anda, periksa apakah daftar peran menyertakan peran yang diperlukan.

    Jika Anda tidak memiliki peran yang diperlukan, berikan peran atau minta administrator untuk melakukannya.

  3. Buat agen layanan Cloud TPU:

    Agen layanan, jenis identitas layanan, adalah identitas layanan yang dikelola Google dan digunakan oleh layanan Cloud TPU untuk melakukan operasi di project Google Cloud Anda. Misalnya, agen layanan digunakan untuk membuat dan mengelola resource Cloud TPU.

      $ gcloud beta services identity create --service tpu.googleapis.com --project PROJECT_ID

  4. Buat akun layanan TPU:

    Akun layanan berfungsi sebagai kredensial untuk VM TPU Anda. Peran yang dilampirkan ke akun layanan memberikan akses ke resource. Google Cloud Sebaiknya gunakan akun layanan yang dikelola pengguna, dengan hanya memberikan izin yang diperlukan oleh VM TPU Anda. Saat menggunakan akun layanan yang dikelola pengguna, Anda harus menentukannya saat membuat VM TPU menggunakan flag --service-account.

    1. Ikuti petunjuk di Membuat akun layanan untuk membuat akun layanan yang dikelola pengguna.

    2. Ikuti petunjuk di Mengelola akses ke project, folder, dan organisasi untuk memberikan akses akun layanan Anda ke Google Cloud layanan yang akan diakses TPU Anda. Peran berikut direkomendasikan agar TPU Anda dapat mengakses layananGoogle Cloud yang umum digunakan.

Bersiap untuk membuat Cloud TPU

Sebelum membuat Cloud TPU, Anda harus meminta kuota. Anda juga harus mempertimbangkan penggunaan resource dalam antrean, serta parameter yang ingin Anda gunakan untuk mengonfigurasi TPU.

  1. Pilih opsi konsumsi.

    Opsi penggunaan adalah metode yang digunakan untuk meminta kapasitas Cloud TPU. Pilih opsi penggunaan berdasarkan faktor berikut:

    • Seberapa cepat Anda membutuhkan kapasitas
    • Berapa lama Anda membutuhkan kapasitas tersebut
    • Apakah Anda memerlukan kapasitas untuk jangka waktu tetap atau fleksibel
    • Apakah kapasitas Anda dapat didahului
    • Harga

    Untuk mengetahui informasi selengkapnya, lihat Opsi pemakaian Cloud TPU.

  2. Minta kuota:

    Kuota TPU adalah batas jumlah core Cloud TPU yang dapat Anda gunakan dengan projectGoogle Cloud . Setiap versi TPU dikaitkan dengan kuotanya sendiri. Untuk membuat Cloud TPU, Google Cloud project Anda harus memiliki kuota untuk versi dan ukuran TPU yang ingin Anda buat serta zona tempat Anda ingin membuatnya. Untuk mengetahui informasi selengkapnya tentang alokasi kuota, jenis kuota, dan cara meminta kuota, lihat Kuota.

    Jika Anda membuat TPU dengan Google Kubernetes Engine atau Vertex AI, Anda memerlukan kuota untuk layanan tersebut. Untuk mengetahui informasi selengkapnya tentang kuota GKE, lihat Merencanakan konfigurasi TPU dengan GKE. Untuk mengetahui informasi selengkapnya tentang kuota Vertex AI, lihat Kuota dan batas Vertex AI.

  3. Tentukan apakah Anda ingin menggunakan resource dalam antrean.

    Membuat Cloud TPU sebagai resource dalam antrean adalah praktik terbaik. Resource dalam antrean memungkinkan Anda menerima kapasitas setelah tersedia. Anda dapat menentukan waktu mulai dan berakhir opsional untuk kapan permintaan harus diisi.

    Ada berbagai perintah gcloud CLI untuk menangani resource yang diantrekan. Untuk mengetahui informasi selengkapnya, lihat Panduan pengguna resource dalam antrean.

  4. Tentukan parameter pembuatan Cloud TPU:

    • Zone: Tetapkan flag --zone ke zona tempat Anda ingin membuat TPU. Anda harus memiliki kuota yang dialokasikan di zona ini. Untuk mengetahui informasi selengkapnya, lihat Region dan zona TPU.

    • Konfigurasi TPU: Jika Anda tidak perlu menentukan topologi kustom, atau Anda menggunakan TPU v2 atau v3, tetapkan tanda --accelerator-type ke vVERSION-TENSORCORES. Ganti VERSION dengan nomor versi TPU yang ingin Anda gunakan. Ganti TENSORCORES dengan jumlah TensorCore yang ingin Anda gunakan.

      Jika Anda ingin menyesuaikan topologi fisik TPU, gunakan flag --version dan --topology. Tetapkan tanda --version ke versi TPU yang ingin Anda gunakan. Tetapkan flag --topology ke topologi yang ingin Anda gunakan.

      Untuk mengetahui informasi selengkapnya tentang konfigurasi TPU, termasuk konfigurasi yang didukung dan varian topologi, lihat Versi TPU.

    • Versi software: Jika Anda meminta resource dalam antrean, tetapkan flag --runtime-version ke nama versi software yang ingin Anda gunakan. Jika tidak, gunakan flag --version. Versi software TPU tersedia untuk framework TensorFlow, PyTorch, dan JAX. Untuk mengetahui informasi selengkapnya tentang versi software yang didukung, lihat Versi software VM TPU.

    • Akun layanan: Tetapkan --service-account ke alamat email akun layanan, jika Anda membuatnya, untuk melampirkan akun layanan ke TPU Anda. Jika kosong, akun layanan Compute Engine default akan digunakan.

    • Quota type: Tambahkan tanda yang sesuai dengan jenis kuota yang ingin Anda gunakan:

      Jenis kuota Tanda
      Dipesan --reserved
      Spot VM --spot
      Dapat diakhiri (tidak tersedia untuk resource dalam antrean; gunakan --spot sebagai gantinya) --preemptible
      Sesuai permintaan Tidak perlu tanda tambahan

    • Konfigurasi lanjutan: Anda dapat menambahkan flag tambahan ke permintaan untuk mengonfigurasi TPU. Lihat dokumentasi gcloud compute tpus tpu-vm create dan bagian berikut untuk mengetahui informasi selengkapnya:

Untuk mengetahui contoh cara membuat Cloud TPU, lihat Mulai.

Langkah berikutnya

  1. Pelajari cara membuat dan mengelola resource VM dan TPU
  2. Menjalankan panduan memulai Cloud TPU