Menyediakan GPU dan mengaktifkan API terlatih Vertex AI

Setiap layanan Vertex AI memerlukan resource komputasi yang berbeda, termasuk unit pemrosesan grafis (GPU), seperti yang dijelaskan dalam Perencanaan kapasitas dan persyaratan komputasi. Halaman ini menjelaskan cara menyediakan resource GPU untuk menjalankan workload kecerdasan buatan (AI) dan machine learning (ML) di lingkungan GPU. Halaman ini juga memandu Anda mengaktifkan API terlatih Vertex AI di perangkat air-gapped Google Distributed Cloud (GDC) sehingga Anda dapat mulai menerapkan kemampuan Vertex AI.

Sebagian besar tugas untuk mengonfigurasi resource GPU dan mengaktifkan atau menonaktifkan API terlatih Vertex AI memerlukan akses administrator. Jika Anda tidak memiliki izin yang diperlukan, minta administrator Anda untuk mengaktifkan GPU dan API Vertex AI yang sudah dilatih sebelumnya atas nama Anda.

Vertex AI di perangkat GDC yang terisolasi dari internet mencakup tiga API, satu untuk setiap model terlatihnya. Untuk mempelajari lebih lanjut model terlatih ini, lihat dokumentasi berikut:

• Pengenalan Karakter Optik (OCR): Pelajari fitur pengenalan karakter.
• Speech-to-Text: Pelajari fitur pengenalan ucapan.
• Vertex AI Translation: Pelajari fitur terjemahan.

Gunakan konsol GDC untuk mengaktifkan, menonaktifkan, dan melihat endpoint Vertex AI API terlatih.

Sebelum memulai

Untuk mendapatkan izin yang diperlukan untuk mengaktifkan API terlatih, minta Admin IAM Organisasi atau Admin IAM Project Anda untuk memberi Anda peran Admin AI Platform (ai-platform-admin) di namespace project.

Untuk mengetahui informasi tentang peran ini, lihat Siapkan izin IAM. Untuk mempelajari cara memberikan izin kepada subjek, lihat Memberikan dan mencabut akses.

Ikuti langkah-langkah berikut untuk menyediakan GPU sebelum mengaktifkan API terlatih:

1. Siapkan project untuk menggunakan Vertex AI.
2. Pastikan project Anda telah mengonfigurasi komunikasi ingress yang memadai.
3. Mengelola workload GPU.
4. Login ke konsol GDC. Jika Anda tidak dapat login, lihat Memulihkan perangkat jika penyedia identitas tidak tersedia.

Mengaktifkan API terlatih

Anda dapat mengaktifkan OCR, Speech-to-Text, dan Vertex AI Translation API terlatih menggunakan konsol GDC.

Perhatian: Appliance GDC yang terisolasi dari internet mencakup satu GPU NVIDIA A100 80 GB. Hal ini membatasi perangkat untuk menjalankan hanya satu API terlatih Vertex AI yang bergantung pada GPU dalam satu waktu. Jika Anda mencoba mengaktifkan Vertex AI Translation dan OCR, API kedua akan gagal diaktifkan dengan pesan error yang menunjukkan sumber daya GPU tidak mencukupi. Namun, Anda dapat menjalankan Speech-to-Text bersama Vertex AI Translation atau OCR, karena Speech-to-Text hanya memerlukan resource CPU.

Setelah memenuhi prasyarat, ikuti langkah-langkah berikut untuk mengaktifkan API terlatih:

1. Login ke konsol GDC.
2. Di menu navigasi, klik Vertex AI > Pre-trained APIs.

3. Di halaman Pre-trained APIs, klik Enable pada layanan tertentu untuk mengaktifkan API tersebut.

   Catatan: Konsol GDC tidak menampilkan tombol untuk mengaktifkan API terlatih jika Anda tidak memiliki izin yang benar.

4. Pada dialog konfirmasi, klik Aktifkan. Pesan progres akan ditampilkan.

Durasi pengaktifan bervariasi. Proses ini mungkin memerlukan waktu antara 15 dan 45 menit untuk menyelesaikannya.

Jika Anda ingin melihat status API terlatih, lihat status dan endpoint layanan.

Catatan: Anda tidak dapat mengaktifkan API saat Anda menunggu API lain selesai dinonaktifkan.

Menonaktifkan API terlatih

Anda dapat menonaktifkan OCR, Speech-to-Text, dan Vertex AI Translation API terlatih menggunakan konsol GDC.

Setelah memenuhi prasyarat, ikuti langkah-langkah berikut untuk menonaktifkan API terlatih:

1. Login ke konsol GDC.
2. Di menu navigasi, klik Vertex AI > Pre-trained APIs.

3. Di halaman Pre-trained APIs, klik Disable pada layanan tertentu untuk menonaktifkan API tersebut.

   Catatan: Konsol GDC tidak menampilkan tombol untuk menonaktifkan API terlatih jika Anda tidak memiliki izin yang benar.

4. Dalam dialog konfirmasi, masukkan disable di kolom teks untuk mengonfirmasi bahwa Anda ingin melakukan tindakan tersebut. Kemudian, klik Nonaktifkan. Pesan progres akan ditampilkan.

Jika Anda ingin melihat status API terlatih, lihat status dan endpoint layanan.

Catatan: Anda tidak dapat menonaktifkan API saat menunggu API lain selesai diaktifkan.