Melihat topologi instance komputasi

Dokumen ini menjelaskan cara melihat lokasi fisik instance A4X Max, A4X, A4, A3 Ultra, A3 Mega, dan A3 High (8 GPU) yang berjalan di blok kapasitas yang dicadangkan. Setelah Anda membuat instance A4X Max, A4X, A4, A3 Ultra, A3 Mega, dan A3 High (8 GPU), Anda dapat melihat penataannya untuk memverifikasi instance Compute Engine mana yang paling berdekatan. Dengan memahami kedekatan instance, Anda dapat melakukan hal berikut:

  • Menyesuaikan desain aplikasi atau workload untuk makin meminimalkan latensi jaringan.

  • Memecahkan masalah latensi jaringan atau performa instance komputasi yang sering berkomunikasi, jika instance tersebut ternyata ditempatkan berjauhan.

Untuk melihat topologi cluster di Cluster Director, lihat Melihat topologi cluster.

Jika Anda menggunakan GPU Umum, metadata physicalHostTopology tidak didukung. Sebagai gantinya, lihat topologi instance dengan melakukan hal berikut:

  • Verifikasi menggunakan kebijakan penempatan: periksa status kebijakan penempatan rapat untuk memverifikasi apakah instance berhasil ditempatkan bersama.
  • Lihat zona instance: topologi terutama dikelola di tingkat zona, bukan tingkat blok atau sub-blok. Anda dapat melihat zona instance untuk memahami lokasi umumnya.

Sebelum memulai

  • Tinjau terminologi yang digunakan dalam fitur AI Hypercomputer.

  • Pilih tab untuk melihat bagaimana Anda berencana menggunakan contoh di halaman ini:

    Konsol

    Saat menggunakan Google Cloud konsol untuk mengakses Google Cloud layanan dan API, Anda tidak perlu menyiapkan autentikasi.

    gcloud

    Di Google Cloud konsol, aktifkan Cloud Shell.

    Aktifkan Cloud Shell

    Di bagian bawah konsol Google Cloud , sesi Cloud Shell akan dimulai dan menampilkan prompt command line. Cloud Shell adalah lingkungan shell dengan Google Cloud CLI yang sudah terinstal, dan dengan nilai yang sudah ditetapkan untuk project Anda saat ini. Diperlukan waktu beberapa detik untuk melakukan inisialisasi pada sesi.

    REST

    Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.

      Instal Google Cloud CLI.

      Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu .

    Untuk mengetahui informasi selengkapnya, lihat Melakukan autentikasi untuk menggunakan REST dalam Google Cloud dokumentasi autentikasi.

Peran yang diperlukan

Agar mendapatkan izin yang Anda perlukan untuk melihat topologi instance komputasi, minta administrator untuk memberi Anda peran IAM Compute Instance Admin (v1) (roles/compute.instanceAdmin.v1) pada project Anda. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Peran bawaan ini berisi izin yang diperlukan untuk melihat topologi instance komputasi. Untuk melihat izin yang benar-benar diperlukan, perluas bagian Izin yang diperlukan:

Izin yang diperlukan

Izin berikut diperlukan untuk melihat topologi instance komputasi:

  • Untuk melihat detail instance: compute.instances.get pada project
  • Untuk melihat daftar instance: compute.instances.list pada project

Anda mungkin juga bisa mendapatkan izin ini dengan peran khusus atau peran bawaan lainnya.

Memahami topologi instance komputasi

Saat melihat detail instance komputasi yang berjalan dan menggunakan seri mesin GPU Bercluster , Anda dapat memahami lokasi fisiknya dalam cluster dengan memeriksa kolom Physical host (untuk Google Cloud konsol), atau kolom physicalHostTopology (untuk gcloud CLI, Compute Engine API, atau dengan membuat kueri kunci metadata). Kolom ini berisi sub-kolom berikut:

  • cluster: nama global cluster.

  • block: ID khusus organisasi dari blok yang dicadangkan tempat instance berada.

  • sub-block: ID khusus organisasi dari sub-blok tempat instance berada.

  • host: ID khusus organisasi dari host tempat instance berjalan.

Untuk memahami kedekatan instance, bandingkan nilai kolom Physical host atau physicalHostTopology antar-instance. Semakin banyak sub-kolom yang dibagikan instance, semakin dekat lokasi fisiknya.

Anda juga dapat melihat topologi reservasi tempat instance komputasi dibuat. Kolom physicalHostTopology reservasi dan instance menampilkan kolom block dan cluster yang sama. Misalnya, saat melihat blok yang dicadangkan tertentu, Anda dapat melihat nama dan sub-blok dari semua instance yang di-deploy di blok tersebut. Untuk mengetahui informasi selengkapnya tentang topologi reservasi, lihat Melihat topologi reservasi.

Melihat topologi instance komputasi

Untuk melihat lokasi fisik beberapa instance komputasi yang berjalan sekaligus, gunakan REST API. Jika tidak, pilih salah satu opsi berikut:

Konsol

  1. Di Google Cloud konsol, buka halaman VM instances.

    Buka instance VM

  2. Di kolom Name, klik nama instance yang ingin Anda lihat detailnya. Halaman yang memberikan detail instance akan muncul dan tab Details dipilih.

  3. Di bagian Basic information, periksa nilai kolom Physical host.

gcloud

Untuk melihat lokasi fisik instance komputasi yang berjalan, gunakan perintah gcloud compute instances describe command dengan flag --flatten=resourceStatus.physicalHostTopology:

gcloud compute instances describe INSTANCE_NAME \
    --flatten=resourceStatus.physicalHostTopology \
    --zone=ZONE

Ganti kode berikut:

  • INSTANCE_NAME: nama instance.

  • ZONE: zona tempat instance berada.

Outputnya mirip dengan hal berikut ini:

---
cluster: europe-west1-cluster-jfhb
block: 3e3056e23cf91a5cb4a8621b6a52c100
subBlock: 0fc09525cbd5abd734342893ca1c083f
host: 1215168a4ecdfb434fd4d28056589059

REST

Untuk melihat lokasi fisik instance komputasi yang berjalan, buat salah satu permintaan GET berikut. Saat membuat permintaan, Anda harus menyertakan parameter kueri fields dan menentukan untuk hanya menampilkan kolom name, machineType, dan physicalHostTopology instance. Anda juga harus menyertakan parameter kueri filter dan menentukan untuk hanya mencantumkan instance yang berjalan.

  • Untuk melihat daftar instance Anda di semua zona: instances.aggregatedList metode

    GET https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/aggregated/instances?fields=items.name,items.machineType,items.resourceStatus.physicalHostTopology&filter=status=RUNNING

  • Untuk melihat daftar instance Anda di zona tertentu: instances.list metode

    GET https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances?fields=items.name,items.machineType,items.resourceStatus.physicalHostTopology&filter=status=RUNNING

Ganti kode berikut:

  • PROJECT_ID: ID project tempat instance berada.

  • ZONE: zona tempat instance berada.

Outputnya mirip dengan hal berikut ini:

{
  "items": [
    {
      "name": "vm-01",
      "machineType": "https://www.googleapis.com/compute/v1/projects/example-project/zones/europe-west1-b/machineTypes/a3-ultragpu-8g",
      "resourceStatus": {
        "physicalHostTopology": {
          "cluster": "europe-west1-cluster-jfhb",
          "block": "3e3056e23cf91a5cb4a8621b6a52c100",
          "subBlock": "0fc09525cbd5abd734342893ca1c083f",
          "host": "1215168a4ecdfb434fd4d28056589059"
        }
      }
    },
    {
      "name": "vm-02",
      "machineType": "https://www.googleapis.com/compute/v1/projects/example-project/zones/europe-west1-b/machineTypes/a3-ultragpu-8g",
      "resourceStatus": {
        "physicalHostTopology": {
          "cluster": "europe-west1-cluster-jfhb",
          "block": "3e3056e23cf91a5cb4a8621b6a52c100",
          "subBlock": "1fc18636cbd4abd623553784ca2c174e",
          "host": "2326279b5ecdfc545fd5e39167698168"
        }
      }
    },
    ...
  ]
}

Jika ingin mempersempit daftar instance, edit ekspresi filter di parameter kueri filter.

Melihat topologi instance komputasi dengan membuat kueri kunci metadata

Untuk melihat lokasi fisik instance komputasi yang berjalan dengan membuat kueri kunci metadata physical_host_topology, pilih salah satu opsi berikut:

Instance Linux

  1. Hubungkan ke instance komputasi Linux Anda.

  2. Dari instance Linux, buat kueri menggunakan alat curl. Untuk membuat kueri kunci metadata physical_host_topology di instance Linux, jalankan perintah berikut:

    user@myinst:~$ curl -s -H "Metadata-Flavor: Google" http://metadata.google.internal/computeMetadata/v1/instance/attributes/physical_host_topology

    Outputnya mirip dengan hal berikut ini:

    {
  "cluster": "europe-west1-cluster-jfhb",
  "block": "3e3056e23cf91a5cb4a8621b6a52c100",
  "subBlock": "1fc18636cbd4abd623553784ca2c174e",
  "host": "2326279b5ecdfc545fd5e39167698168"
}

Instance Windows

  1. Hubungkan ke instance komputasi Windows Anda.

  2. Dari instance Windows, buat kueri menggunakan Invoke-RestMethod perintah. Untuk membuat kueri kunci metadata physical_host_topology di instance Windows, jalankan perintah berikut:

    PS C:\> 
$value = (Invoke-RestMethod `
        -Headers @{'Metadata-Flavor' = 'Google'} `
        -Uri "http://metadata.google.internal/computeMetadata/v1/instance/attributes/physical_host_topology")
$value

    Outputnya mirip dengan hal berikut ini:

    {
  "cluster": "europe-west1-cluster-jfhb",
  "block": "3e3056e23cf91a5cb4a8621b6a52c100",
  "subBlock": "1fc18636cbd4abd623553784ca2c174e",
  "host": "2326279b5ecdfc545fd5e39167698168"
}

Langkah berikutnya