Kontrol Cloud Run Functions untuk kasus penggunaan AI generatif

Dokumen ini mencakup praktik terbaik dan panduan untuk fungsi Cloud Run saat menjalankan workload AI generatif di Google Cloud. Gunakan fungsi Cloud Run dengan Vertex AI untuk mengotomatiskan tugas, menyajikan prediksi, memicu tugas pelatihan, berintegrasi dengan layanan lain, dan membangun pipeline ML berbasis peristiwa.

Pertimbangkan kasus penggunaan berikut untuk fungsi Cloud Run dengan Vertex AI:

  • Kemampuan untuk memproses data sebelum dan sesudah pemrosesan: Fungsi Cloud Run dapat memproses data sebelum mengirimkannya ke model Vertex AI untuk pelatihan atau prediksi. Misalnya, sebuah fungsi dapat membersihkan dan menormalisasi data, atau mengekstrak fitur dari data tersebut. Demikian pula, fungsi Cloud Run dapat memproses output model Vertex AI Anda setelahnya. Misalnya, fungsi dapat memformat data output, atau mengirimkannya ke layanan lain untuk analisis lebih lanjut.
  • Pemicu otomatis untuk tugas pelatihan Vertex AI: Untuk mengotomatiskan pelatihan model Vertex AI, Anda dapat memicu fungsi Cloud Run menggunakan peristiwa dari berbagai layanan Google Cloud , seperti Cloud Storage, Pub/Sub, dan Cloud Scheduler. Misalnya, Anda dapat membuat fungsi yang dipicu saat file baru diupload ke Cloud Storage. Fungsi ini dapat memulai tugas pelatihan Vertex AI untuk melatih model Anda pada data baru.
  • Kemampuan untuk menyajikan prediksi: Fungsi Cloud Run dapat menyajikan prediksi dari model Vertex AI Anda, sehingga Anda dapat membuat endpoint API untuk model Anda tanpa harus mengelola infrastruktur apa pun. Misalnya, Anda dapat menulis fungsi yang mengambil gambar sebagai input, dan menghasilkan prediksi dari model klasifikasi gambar Vertex AI Anda. Kemudian, Anda dapat men-deploy fungsi ini sebagai endpoint HTTP API.
  • Alur kerja ML berbasis peristiwa: Anda dapat menggunakan fungsi Cloud Run untuk membangun alur kerja ML berbasis peristiwa. Misalnya, fungsi dapat memicu tugas prediksi Vertex AI saat ada rekaman baru yang ditambahkan ke topik Pub/Sub. Fungsi ini memungkinkan Anda memproses data secara real time dan mengambil tindakan berdasarkan prediksi model.
  • Integrasi dengan layanan lain: Anda dapat mengintegrasikan fungsi Cloud Run dengan layanan Google Cloud lain, seperti Cloud Storage, BigQuery, dan Cloud Firestore. Integrasi memungkinkan Anda membangun pipeline ML kompleks yang menghubungkan berbagai layanan.
  • Penskalaan biaya: Cloud Run Functions memungkinkan Anda hanya membayar resource yang digunakan fungsi saat berjalan. Selain itu, fungsi Cloud Run secara otomatis diskalakan untuk memenuhi permintaan, sehingga Anda dapat mempertahankan resource yang sesuai selama traffic puncak.

Kontrol fungsi Cloud Run yang diperlukan

Kontrol berikut sangat direkomendasikan saat menggunakan fungsi Cloud Run.

Mewajibkan konektor VPC untuk fungsi Cloud Run

ID kontrol Google CF-CO-4.4
Kategori Wajib
Deskripsi

Batasan boolean cloudfunctions.requireVPCConnector mewajibkan administrator menentukan konektor Akses VPC Serverless saat men-deploy fungsi Cloud Run. Jika diterapkan, fungsi harus menentukan konektor.
Produk yang berlaku
  • Organization Policy Service
  • Cloud Run Functions
Jalur constraints/cloudfunctions.requireVPCConnector
Operator =
Nilai
  • True
Jenis Boolean
Kontrol NIST-800-53 terkait
  • SC-7
  • SC-8
Kontrol profil CRI terkait
  • PR.AC-5.1
  • PR.AC-5.2
  • PR.DS-2.1
  • PR.DS-2.2
  • PR.DS-5.1
  • PR.PT-4.1
  • DE.CM-1.1
  • DE.CM-1.2
  • DE.CM-1.3
  • DE.CM-1.4
Informasi terkait

Langkah berikutnya