Mengakses model Gemini dari alur kerja menggunakan Vertex AI

AI Generatif di Vertex AI (juga dikenal sebagai genAI atau gen AI) memberi Anda akses ke model AI generatif Google untuk berbagai modalitas (teks, kode, gambar, ucapan). Anda dapat menguji dan menyesuaikan model bahasa besar (LLM) ini, lalu men-deploy-nya untuk digunakan dalam aplikasi yang didukung AI. Untuk mengetahui informasi selengkapnya, lihat Ringkasan AI Generatif di Vertex AI.

Vertex AI memiliki berbagai model dasar AI generatif yang dapat diakses melalui API, termasuk model yang digunakan dalam panduan ini. Untuk mengetahui informasi selengkapnya tentang cara memilih model, lihat Model Google.

Setiap model diekspos melalui endpoint penayang yang khusus untuk projectGoogle Cloud Anda, sehingga tidak perlu men-deploy model dasar kecuali jika Anda perlu menyesuaikannya untuk kasus penggunaan tertentu. Anda dapat mengirim perintah ke endpoint penayang. Perintah adalah permintaan bahasa alami yang dikirim ke LLM untuk mendapatkan respons.

Tutorial ini menunjukkan alur kerja yang menghasilkan respons dari model Vertex AI dengan mengirimkan perintah teks ke endpoint penayang menggunakan konektor Workflows atau permintaan HTTP POST. Untuk mengetahui informasi selengkapnya, lihat Ringkasan konektor API Vertex AI dan Membuat permintaan HTTP.

Perhatikan bahwa Anda dapat men-deploy dan menjalankan setiap alur kerja secara terpisah.

Tujuan

Dalam tutorial ini, Anda akan melakukan hal-hal berikut:

1. Aktifkan Vertex AI dan Workflows API, lalu berikan peran Vertex AI User (roles/aiplatform.user) ke akun layanan Anda. Peran ini memungkinkan akses ke sebagian besar kemampuan Vertex AI. Untuk mengetahui informasi selengkapnya tentang cara menyiapkan Vertex AI, lihat Menyiapkan project dan lingkungan pengembangan.
2. Men-deploy dan menjalankan alur kerja yang meminta model Vertex AI untuk mendeskripsikan gambar yang tersedia secara publik melalui Cloud Storage. Untuk mengetahui informasi selengkapnya, lihat Menjadikan data publik.
3. Deploy dan jalankan alur kerja yang melakukan loop melalui daftar negara secara paralel dan meminta model Vertex AI untuk membuat dan menampilkan histori negara. Dengan menggunakan cabang paralel, Anda dapat mengurangi total waktu eksekusi dengan memulai panggilan ke LLM secara bersamaan dan menunggu hingga semuanya selesai sebelum menggabungkan hasilnya. Untuk mengetahui informasi selengkapnya, lihat Menjalankan langkah-langkah alur kerja secara paralel.
4. Men-deploy alur kerja yang dapat meringkas dokumen besar. Karena ada batas pada periode konteks yang menetapkan rentang waktu ke belakang model selama pelatihan (dan untuk perkiraan), alur kerja membagi dokumen menjadi bagian-bagian yang lebih kecil, lalu meminta model Vertex AI untuk meringkas setiap bagian secara paralel. Untuk mengetahui informasi selengkapnya, lihat Ringkasan strategi perintah dan Horizon perkiraan, periode konteks, dan periode perkiraan.

Biaya

Dalam dokumen ini, Anda akan menggunakan komponen Google Cloudyang dapat ditagih berikut:

• Vertex AI
• Workflows

Untuk membuat perkiraan biaya berdasarkan proyeksi penggunaan Anda, gunakan kalkulator harga.

Pengguna Google Cloud baru mungkin memenuhi syarat untuk mendapatkan uji coba gratis.

Setelah menyelesaikan tugas yang dijelaskan dalam dokumen ini, Anda dapat menghindari penagihan berkelanjutan dengan menghapus resource yang Anda buat. Untuk mengetahui informasi selengkapnya, baca bagian Pembersihan.

Sebelum memulai

Sebelum mencoba contoh dalam tutorial ini, pastikan Anda telah menyelesaikan hal berikut.

Konsol

Login ke akun Google Cloud Anda. Jika Anda baru menggunakan Google Cloud, buat akun untuk mengevaluasi performa produk kami dalam skenario dunia nyata. Pelanggan baru juga mendapatkan kredit gratis senilai $300 untuk menjalankan, menguji, dan men-deploy workload.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI and Workflows APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

Create a service account:

1. Ensure that you have the Create Service Accounts IAM role (roles/iam.serviceAccountCreator) and the Project IAM Admin role (roles/resourcemanager.projectIamAdmin). Learn how to grant roles.

2. In the Google Cloud console, go to the Create service account page.

   Go to Create service account
3. Select your project.

4. In the Service account name field, enter a name. The Google Cloud console fills in the Service account ID field based on this name.

   In the Service account description field, enter a description. For example, Service account for quickstart.

5. Click Create and continue.

6. Grant the Vertex AI > Vertex AI User role to the service account.

   To grant the role, find the Select a role list, then select Vertex AI > Vertex AI User.

   Note: The Role field affects which resources the service account can access in your project. You can revoke these roles or grant additional roles later.
7. Click Continue.

8. Click Done to finish creating the service account.

In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

Roles required to select or create a project

• Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
• Create a project: To create a project, you need the Project Creator role (roles/resourcemanager.projectCreator), which contains the resourcemanager.projects.create permission. Learn how to grant roles.

Note: If you don't plan to keep the resources that you create in this procedure, create a project instead of selecting an existing project. After you finish these steps, you can delete the project, removing all resources associated with the project.

Go to project selector

Verify that billing is enabled for your Google Cloud project.

Enable the Vertex AI and Workflows APIs.

Roles required to enable APIs

To enable APIs, you need the Service Usage Admin IAM role (roles/serviceusage.serviceUsageAdmin), which contains the serviceusage.services.enable permission. Learn how to grant roles.

Enable the APIs

Create a service account:

1. Ensure that you have the Create Service Accounts IAM role (roles/iam.serviceAccountCreator) and the Project IAM Admin role (roles/resourcemanager.projectIamAdmin). Learn how to grant roles.

2. In the Google Cloud console, go to the Create service account page.

   Go to Create service account
3. Select your project.

4. In the Service account name field, enter a name. The Google Cloud console fills in the Service account ID field based on this name.

   In the Service account description field, enter a description. For example, Service account for quickstart.

5. Click Create and continue.

6. Grant the Vertex AI > Vertex AI User role to the service account.

   To grant the role, find the Select a role list, then select Vertex AI > Vertex AI User.

   Note: The Role field affects which resources the service account can access in your project. You can revoke these roles or grant additional roles later.
7. Click Continue.

8. Click Done to finish creating the service account.

gcloud

Login ke akun Google Cloud Anda. Jika Anda baru menggunakan Google Cloud, buat akun untuk mengevaluasi performa produk kami dalam skenario dunia nyata. Pelanggan baru juga mendapatkan kredit gratis senilai $300 untuk menjalankan, menguji, dan men-deploy workload.
Instal Google Cloud CLI.
Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.
Untuk melakukan inisialisasi gcloud CLI, jalankan perintah berikut:
gcloud init
Buat atau pilih Google Cloud project.
Peran yang diperlukan untuk memilih atau membuat project
• Pilih project: Memilih project tidak memerlukan peran IAM tertentu—Anda dapat memilih project mana pun yang telah diberi peran.
• Membuat project: Untuk membuat project, Anda memerlukan peran Pembuat Project (roles/resourcemanager.projectCreator), yang berisi izin resourcemanager.projects.create. Pelajari cara memberikan peran.
Catatan: Jika tidak berencana untuk menyimpan resource yang Anda buat dalam prosedur ini, buatlah project, bukan memilih project yang ada. Setelah menyelesaikan langkah ini, Anda dapat menghapus project, yang menghapus semua resource yang terkait dengan project ini.
• Buat Google Cloud project:

  gcloud projects create PROJECT_ID

  Ganti PROJECT_ID dengan nama untuk Google Cloud project yang Anda buat.

• Pilih project Google Cloud yang Anda buat:

  gcloud config set project PROJECT_ID

  Ganti PROJECT_ID dengan nama project Google Cloud Anda.
Verifikasi bahwa penagihan diaktifkan untuk project Google Cloud Anda.
Aktifkan Vertex AI dan Workflows API:
Peran yang diperlukan untuk mengaktifkan API
Untuk mengaktifkan API, Anda memerlukan peran IAM Service Usage Admin (roles/serviceusage.serviceUsageAdmin), yang berisi izin serviceusage.services.enable. Pelajari cara memberikan peran.
gcloud services enable aiplatform.googleapis.com workflows.googleapis.com
Menyiapkan autentikasi:
1. Pastikan Anda memiliki peran IAM Create Service Accounts (roles/iam.serviceAccountCreator) dan peran IAM Project IAM Admin (roles/resourcemanager.projectIamAdmin). Pelajari cara memberikan peran.

2. Buat akun layanan:

   gcloud iam service-accounts create SERVICE_ACCOUNT_NAME

   Ganti SERVICE_ACCOUNT_NAME dengan nama untuk akun layanan.

3. Memberikan peran IAM roles/aiplatform.user ke akun layanan.

   gcloud projects add-iam-policy-binding PROJECT_ID --member="serviceAccount:SERVICE_ACCOUNT_NAME@PROJECT_ID.iam.gserviceaccount.com" --role=roles/aiplatform.user

   Ganti kode berikut:

   • SERVICE_ACCOUNT_NAME: nama dari akun layanan.
   • PROJECT_ID: project ID dimana Anda membuat akun layanan
   Catatan: Flag --role memengaruhi resource mana yang dapat diakses oleh akun layanan di project Anda. Anda dapat mencabut peran ini atau memberikan peran tambahan di lain waktu.

Instal Google Cloud CLI.

Jika Anda menggunakan penyedia identitas (IdP) eksternal, Anda harus login ke gcloud CLI dengan identitas gabungan Anda terlebih dahulu.

Untuk melakukan inisialisasi gcloud CLI, jalankan perintah berikut:

gcloud init

Buat atau pilih Google Cloud project.

Peran yang diperlukan untuk memilih atau membuat project

• Pilih project: Memilih project tidak memerlukan peran IAM tertentu—Anda dapat memilih project mana pun yang telah diberi peran.
• Membuat project: Untuk membuat project, Anda memerlukan peran Pembuat Project (roles/resourcemanager.projectCreator), yang berisi izin resourcemanager.projects.create. Pelajari cara memberikan peran.

Catatan: Jika tidak berencana untuk menyimpan resource yang Anda buat dalam prosedur ini, buatlah project, bukan memilih project yang ada. Setelah menyelesaikan langkah ini, Anda dapat menghapus project, yang menghapus semua resource yang terkait dengan project ini.

• Buat Google Cloud project:

  gcloud projects create PROJECT_ID

  Ganti PROJECT_ID dengan nama untuk Google Cloud project yang Anda buat.

• Pilih project Google Cloud yang Anda buat:

  gcloud config set project PROJECT_ID

  Ganti PROJECT_ID dengan nama project Google Cloud Anda.

Verifikasi bahwa penagihan diaktifkan untuk project Google Cloud Anda.

Aktifkan Vertex AI dan Workflows API:

Peran yang diperlukan untuk mengaktifkan API

Untuk mengaktifkan API, Anda memerlukan peran IAM Service Usage Admin (roles/serviceusage.serviceUsageAdmin), yang berisi izin serviceusage.services.enable. Pelajari cara memberikan peran.

gcloud services enable aiplatform.googleapis.com workflows.googleapis.com

Menyiapkan autentikasi:

1. Pastikan Anda memiliki peran IAM Create Service Accounts (roles/iam.serviceAccountCreator) dan peran IAM Project IAM Admin (roles/resourcemanager.projectIamAdmin). Pelajari cara memberikan peran.

2. Buat akun layanan:

   gcloud iam service-accounts create SERVICE_ACCOUNT_NAME

   Ganti SERVICE_ACCOUNT_NAME dengan nama untuk akun layanan.

3. Memberikan peran IAM roles/aiplatform.user ke akun layanan.

   gcloud projects add-iam-policy-binding PROJECT_ID --member="serviceAccount:SERVICE_ACCOUNT_NAME@PROJECT_ID.iam.gserviceaccount.com" --role=roles/aiplatform.user

   Ganti kode berikut:

   • SERVICE_ACCOUNT_NAME: nama dari akun layanan.
   • PROJECT_ID: project ID dimana Anda membuat akun layanan
   Catatan: Flag --role memengaruhi resource mana yang dapat diakses oleh akun layanan di project Anda. Anda dapat mencabut peran ini atau memberikan peran tambahan di lain waktu.

Men-deploy alur kerja yang mendeskripsikan gambar

Men-deploy alur kerja yang menggunakan metode konektor (generateContent) untuk membuat permintaan ke endpoint penayang model. Metode ini memberikan dukungan untuk pembuatan konten dengan input multimodal.

Alur kerja ini memberikan perintah teks dan URI gambar yang tersedia secara publik di bucket Cloud Storage. Anda dapat melihat gambar dan, di konsol Google Cloud , Anda dapat melihat detail objek.

Alur kerja menampilkan deskripsi gambar dari respons yang dihasilkan model.

Untuk mengetahui informasi selengkapnya tentang parameter isi permintaan HTTP yang digunakan saat memberikan perintah ke LLM, dan elemen isi respons, lihat Membuat konten dengan Gemini API di Vertex AI.

Konsol

1. Di konsol Google Cloud , buka halaman Workflows.

   Buka Workflows

2. Klik Buat.

3. Masukkan nama untuk alur kerja baru: describe-image.

4. Di daftar Region, pilih us-central1 (Iowa).

5. Untuk Service account, pilih akun layanan yang Anda buat sebelumnya.

6. Klik Berikutnya.

7. Di editor alur kerja, masukkan definisi berikut untuk alur kerja Anda:

   main:
       params: [args]
       steps:
       - init:
           assign:
               - project: ${sys.get_env("GOOGLE_CLOUD_PROJECT_ID")}
               - location: "us-central1"
               - model: "gemini-2.5-flash"
               - text_combined: ""
       - ask_llm:
           call: googleapis.aiplatform.v1.projects.locations.endpoints.generateContent
           args:
               model: ${"projects/" + project + "/locations/" + location + "/publishers/google/models/" + model}
               region: ${location}
               body:
                   contents:
                       role: user
                       parts:
                       - fileData:
                           mimeType: image/jpeg
                           fileUri: ${args.image_url}
                       - text: Describe this picture in detail
                   generation_config:
                       temperature: 0.4
                       max_output_tokens: 2048
                       top_p: 1
                       top_k: 32
           result: llm_response
       - return_result:
           return:
               image_url: ${args.image_url}
               image_description: ${llm_response.candidates[0].content.parts[0].text}

8. Klik Deploy.

gcloud

1. Buat file kode sumber untuk alur kerja Anda:

   touch describe-image.yaml

2. Di editor teks, salin alur kerja berikut ke file kode sumber Anda:

   main:
       params: [args]
       steps:
       - init:
           assign:
               - project: ${sys.get_env("GOOGLE_CLOUD_PROJECT_ID")}
               - location: "us-central1"
               - model: "gemini-2.5-flash"
               - text_combined: ""
       - ask_llm:
           call: googleapis.aiplatform.v1.projects.locations.endpoints.generateContent
           args:
               model: ${"projects/" + project + "/locations/" + location + "/publishers/google/models/" + model}
               region: ${location}
               body:
                   contents:
                       role: user
                       parts:
                       - fileData:
                           mimeType: image/jpeg
                           fileUri: ${args.image_url}
                       - text: Describe this picture in detail
                   generation_config:
                       temperature: 0.4
                       max_output_tokens: 2048
                       top_p: 1
                       top_k: 32
           result: llm_response
       - return_result:
           return:
               image_url: ${args.image_url}
               image_description: ${llm_response.candidates[0].content.parts[0].text}

3. Deploy alur kerja dengan memasukkan perintah berikut:

   gcloud workflows deploy describe-image \
       --source=describe-image.yaml \
       --location=us-central1 \
       --service-account=SERVICE_ACCOUNT_NAME@PROJECT_ID.iam.gserviceaccount.com

Menjalankan alur kerja

Mengeksekusi alur kerja akan menjalankan definisi alur kerja saat ini yang terkait dengan alur kerja.

Konsol

1. Di konsol Google Cloud , buka halaman Workflows.

   Buka Workflows

2. Di halaman Workflows, pilih alur kerja describe-image untuk membuka halaman detailnya.

3. Di halaman Workflow details, klik Execute.

4. Untuk Input, masukkan hal berikut:

   {"image_url":"gs://generativeai-downloads/images/scones.jpg"}

5. Klik Execute lagi.

6. Lihat hasil alur kerja di panel Output.

   Outputnya akan mirip dengan berikut ini:

   {
     "image_description": "There are three pink peony flowers on the right side of the picture[]...]There is a white napkin on the table.",
     "image_url": "gs://generativeai-downloads/images/scones.jpg"
   }

gcloud

1. Buka terminal.

2. Jalankan alur kerja:

   gcloud workflows run describe-image \
       --data='{"image_url":"gs://generativeai-downloads/images/scones.jpg"}'

   Hasil eksekusinya akan mirip dengan berikut ini:

     Waiting for execution [258b530e-a093-46d7-a4ff-cbf5392273c0] to complete...done.
     argument: '{"image_url":"gs://generativeai-downloads/images/scones.jpg"}'
     createTime: '2024-02-09T13:59:32.166409938Z'
     duration: 4.174708484s
     endTime: '2024-02-09T13:59:36.341118422Z'
     name: projects/1051295516635/locations/us-central1/workflows/describe-image/executions/258b530e-a093-46d7-a4ff-cbf5392273c0
     result: "{\"image_description\":\"The picture shows a rustic table with a white surface,\
       \ on which there are several scones with blueberries, as well as two cups of coffee\
       [...]
       \ on the table. The background of the table is a dark blue color.\",\"image_url\"\
       :\"gs://generativeai-downloads/images/scones.jpg\"}"
     startTime: '2024-02-09T13:59:32.166409938Z'
     state: SUCCEEDED

Men-deploy alur kerja yang menghasilkan histori negara

Deploy alur kerja yang melakukan loop pada daftar input negara secara paralel dan menggunakan metode konektor (generateContent) untuk membuat permintaan ke endpoint penayang model. Metode ini memberikan dukungan untuk pembuatan konten dengan input multimodal.

Alur kerja menampilkan histori negara yang dihasilkan oleh model, menggabungkannya dalam peta.

Untuk mengetahui informasi selengkapnya tentang parameter isi permintaan HTTP yang digunakan saat memberikan perintah ke LLM, dan elemen isi respons, lihat Membuat konten dengan Gemini API di Vertex AI.

Konsol

1. Di konsol Google Cloud , buka halaman Workflows.

   Buka Workflows

2. Klik Buat.

3. Masukkan nama untuk alur kerja baru: gemini-pro-country-histories.

4. Di daftar Region, pilih us-central1 (Iowa).

5. Untuk Service account, pilih akun layanan yang Anda buat sebelumnya.

6. Klik Berikutnya.

7. Di editor alur kerja, masukkan definisi berikut untuk alur kerja Anda:

   main:
       params: [args]
       steps:
       - init:
           assign:
               - project: ${sys.get_env("GOOGLE_CLOUD_PROJECT_ID")}
               - location: "us-central1"
               - model: "gemini-2.5-flash"
               - histories: {}
       - loop_over_countries:
           parallel:
               shared: [histories]
               for:
                   value: country
                   in: ${args.countries}
                   steps:
                       - ask_llm:
                           call: googleapis.aiplatform.v1.projects.locations.endpoints.generateContent
                           args:
                               model: ${"projects/" + project + "/locations/" + location + "/publishers/google/models/" + model}
                               region: ${location}
                               body:
                                   contents:
                                       role: "USER"
                                       parts:
                                           text: ${"Can you tell me about the history of " + country}
                                   generation_config:
                                       temperature: 0.5
                                       max_output_tokens: 2048
                                       top_p: 0.8
                                       top_k: 40
                           result: llm_response
                       - add_to_histories:
                           assign:
                               - histories[country]: ${llm_response.candidates[0].content.parts[0].text}
       - return_result:
           return: ${histories}

8. Klik Deploy.

gcloud

1. Buat file kode sumber untuk alur kerja Anda:

   touch gemini-pro-country-histories.yaml

2. Di editor teks, salin alur kerja berikut ke file kode sumber Anda:

   main:
       params: [args]
       steps:
       - init:
           assign:
               - project: ${sys.get_env("GOOGLE_CLOUD_PROJECT_ID")}
               - location: "us-central1"
               - model: "gemini-2.5-flash"
               - histories: {}
       - loop_over_countries:
           parallel:
               shared: [histories]
               for:
                   value: country
                   in: ${args.countries}
                   steps:
                       - ask_llm:
                           call: googleapis.aiplatform.v1.projects.locations.endpoints.generateContent
                           args:
                               model: ${"projects/" + project + "/locations/" + location + "/publishers/google/models/" + model}
                               region: ${location}
                               body:
                                   contents:
                                       role: "USER"
                                       parts:
                                           text: ${"Can you tell me about the history of " + country}
                                   generation_config:
                                       temperature: 0.5
                                       max_output_tokens: 2048
                                       top_p: 0.8
                                       top_k: 40
                           result: llm_response
                       - add_to_histories:
                           assign:
                               - histories[country]: ${llm_response.candidates[0].content.parts[0].text}
       - return_result:
           return: ${histories}

3. Deploy alur kerja dengan memasukkan perintah berikut:

   gcloud workflows deploy gemini-pro-country-histories \
       --source=gemini-pro-country-histories.yaml \
       --location=us-central1 \
       --service-account=SERVICE_ACCOUNT_NAME@PROJECT_ID.iam.gserviceaccount.com

Menjalankan alur kerja

Mengeksekusi alur kerja akan menjalankan definisi alur kerja saat ini yang terkait dengan alur kerja.

Konsol

1. Di konsol Google Cloud , buka halaman Workflows.

   Buka Workflows

2. Di halaman Workflows, pilih alur kerja gemini-pro-country-histories untuk membuka halaman detailnya.

3. Di halaman Workflow details, klik Execute.

4. Untuk Input, masukkan hal berikut:

   {"countries":["Argentina", "Bhutan", "Cyprus", "Denmark", "Ethiopia"]}

5. Klik Execute lagi.

6. Lihat hasil alur kerja di panel Output.

   Outputnya akan mirip dengan berikut ini:

   {
     "Argentina": "The history of Argentina is a complex and fascinating one, marked by periods of prosperity and decline, political [...]
     "Bhutan": "The history of Bhutan is a rich and fascinating one, dating back to the 7th century AD. Here is a brief overview: [...]
     "Cyprus": "The history of Cyprus is a long and complex one, spanning over 10,000 years. The island has been ruled by a succession [...]
     "Denmark": "1. **Prehistory and Early History (c. 12,000 BC - 800 AD)**\\n   - The earliest evidence of human habitation in Denmark [...]
     "Ethiopia": "The history of Ethiopia is a long and complex one, stretching back to the earliest human civilizations. The country is [...]
   }

gcloud

1. Buka terminal.

2. Jalankan alur kerja:

   gcloud workflows run gemini-pro-country-histories \
       --data='{"countries":["Argentina", "Bhutan", "Cyprus", "Denmark", "Ethiopia"]}' \
       --location=us-central1

   Hasil eksekusinya akan mirip dengan berikut ini:

     Waiting for execution [7ae1ccf1-29b7-4c2c-99ec-7a12ae289391] to complete...done.
     argument: '{"countries":["Argentina","Bhutan","Cyprus","Denmark","Ethiopia"]}'
     createTime: '2024-02-09T16:25:16.742349156Z'
     duration: 12.075968673s
     endTime: '2024-02-09T16:25:28.818317829Z'
     name: projects/1051295516635/locations/us-central1/workflows/gemini-pro-country-histories/executions/7ae1ccf1-29b7-4c2c-99ec-7a12ae289391
     result: "{\"Argentina\":\"The history of Argentina can be traced back to the arrival\
       [...]
       n* 2015: Argentina elects Mauricio Macri as president.\",\"Bhutan\":\"The history\
       [...]
       \ natural beauty, ancient monasteries, and friendly people.\",\"Cyprus\":\"The history\
       [...]
       ,\"Denmark\":\"The history of Denmark can be traced back to the Stone Age, with\
       [...]
       \ a high standard of living.\",\"Ethiopia\":\"The history of Ethiopia is long and\
       [...]
     startTime: '2024-02-09T16:25:16.742349156Z'
     state: SUCCEEDED

Men-deploy alur kerja yang meringkas dokumen besar

Deploy alur kerja yang membagi dokumen besar menjadi beberapa bagian yang lebih kecil, sehingga membuat http.post permintaan ke endpoint penerbit model secara paralel agar model dapat meringkas setiap bagian secara bersamaan. Alur kerja akhirnya menggabungkan semua ringkasan parsial menjadi satu ringkasan yang lengkap.

Untuk mengetahui informasi selengkapnya tentang parameter isi permintaan HTTP yang digunakan saat memberikan perintah ke LLM, dan elemen isi respons, lihat Membuat konten dengan Gemini API di Vertex AI.

Definisi alur kerja mengasumsikan bahwa Anda telah membuat bucket Cloud Storage yang dapat digunakan untuk mengupload file teks. Untuk mengetahui informasi selengkapnya tentang konektor Workflows (googleapis.storage.v1.objects.get) yang digunakan untuk mengambil objek dari bucket Cloud Storage, lihat Referensi konektor.

Setelah men-deploy alur kerja, Anda dapat mengeksekusinya dengan membuat pemicu Eventarc yang sesuai, lalu mengupload file ke bucket. Untuk mengetahui informasi selengkapnya, lihat Merutekan peristiwa Cloud Storage ke Workflows. Perhatikan bahwa API tambahan harus diaktifkan, dan peran tambahan harus diberikan, termasuk memberikan peran Storage Object User (roles/storage.objectUser) kepada akun layanan Anda yang mendukung penggunaan objek Cloud Storage. Untuk mengetahui informasi selengkapnya, lihat bagian Bersiap membuat pemicu.

Konsol

1. Di konsol Google Cloud , buka halaman Workflows.

   Buka Workflows

2. Klik Buat.

3. Masukkan nama untuk alur kerja baru: gemini-pro-summaries.

4. Di daftar Region, pilih us-central1 (Iowa).

5. Untuk Service account, pilih akun layanan yang Anda buat sebelumnya.

6. Klik Berikutnya.

7. Di editor alur kerja, masukkan definisi berikut untuk alur kerja Anda:

   main:
       params: [input]
       steps:
       - assign_file_vars:
           assign:
               - file_size: ${int(input.data.size)}
               - chunk_size: 64000
               - n_chunks: ${int(file_size / chunk_size)}
               - summaries: []
               - all_summaries_concatenated: ""
       - loop_over_chunks:
           parallel:
               shared: [summaries]
               for:
                   value: chunk_idx
                   range: ${[0, n_chunks]}
                   steps:
                       - assign_bounds:
                           assign:
                               - lower_bound: ${chunk_idx * chunk_size}
                               - upper_bound: ${(chunk_idx + 1) * chunk_size}
                               - summaries: ${list.concat(summaries, "")}
                       - dump_file_content:
                           call: http.get
                           args:
                               url: ${"https://storage.googleapis.com/storage/v1/b/" + input.data.bucket + "/o/" + input.data.name + "?alt=media"}
                               auth:
                                   type: OAuth2
                               headers:
                                   Range: ${"bytes=" + lower_bound + "-" + upper_bound}
                           result: file_content
                       - assign_chunk:
                           assign:
                               - chunk: ${file_content.body}
                       - generate_chunk_summary:
                           call: ask_gemini_for_summary
                           args:
                               textToSummarize: ${chunk}
                           result: summary
                       - assign_summary:
                           assign:
                               - summaries[chunk_idx]: ${summary}
       - concat_summaries:
           for:
               value: summary
               in: ${summaries}
               steps:
                   - append_summaries:
                       assign:
                           - all_summaries_concatenated: ${all_summaries_concatenated + "\n" + summary}
       - reduce_summary:
           call: ask_gemini_for_summary
           args:
               textToSummarize: ${all_summaries_concatenated}
           result: final_summary
       - return_result:
           return:
               - summaries: ${summaries}
               - final_summary: ${final_summary}
   
   ask_gemini_for_summary:
       params: [textToSummarize]
       steps:
           - init:
               assign:
                   - project: ${sys.get_env("GOOGLE_CLOUD_PROJECT_ID")}
                   - location: "us-central1"
                   - model: "gemini-2.5-pro"
                   - summary: ""
           - call_gemini:
               call: http.post
               args:
                   url: ${"https://" + location + "-aiplatform.googleapis.com" + "/v1/projects/" + project + "/locations/" + location + "/publishers/google/models/" + model + ":generateContent"}
                   auth:
                       type: OAuth2
                   body:
                       contents:
                           role: user
                           parts:
                               - text: '${"Make a summary of the following text:\n\n" + textToSummarize}'
                       generation_config:
                           temperature: 0.2
                           maxOutputTokens: 2000
                           topK: 10
                           topP: 0.9
               result: gemini_response
           # Sometimes, there's no text, for example, due to safety settings
           - check_text_exists:
               switch:
               - condition: ${not("parts" in gemini_response.body.candidates[0].content)}
                 next: return_summary
           - extract_text:
               assign:
                   - summary: ${gemini_response.body.candidates[0].content.parts[0].text}
           - return_summary:
               return: ${summary}

8. Klik Deploy.

gcloud

1. Buat file kode sumber untuk alur kerja Anda:

   touch gemini-pro-summaries.yaml

2. Di editor teks, salin alur kerja berikut ke file kode sumber Anda:

   main:
       params: [input]
       steps:
       - assign_file_vars:
           assign:
               - file_size: ${int(input.data.size)}
               - chunk_size: 64000
               - n_chunks: ${int(file_size / chunk_size)}
               - summaries: []
               - all_summaries_concatenated: ""
       - loop_over_chunks:
           parallel:
               shared: [summaries]
               for:
                   value: chunk_idx
                   range: ${[0, n_chunks]}
                   steps:
                       - assign_bounds:
                           assign:
                               - lower_bound: ${chunk_idx * chunk_size}
                               - upper_bound: ${(chunk_idx + 1) * chunk_size}
                               - summaries: ${list.concat(summaries, "")}
                       - dump_file_content:
                           call: http.get
                           args:
                               url: ${"https://storage.googleapis.com/storage/v1/b/" + input.data.bucket + "/o/" + input.data.name + "?alt=media"}
                               auth:
                                   type: OAuth2
                               headers:
                                   Range: ${"bytes=" + lower_bound + "-" + upper_bound}
                           result: file_content
                       - assign_chunk:
                           assign:
                               - chunk: ${file_content.body}
                       - generate_chunk_summary:
                           call: ask_gemini_for_summary
                           args:
                               textToSummarize: ${chunk}
                           result: summary
                       - assign_summary:
                           assign:
                               - summaries[chunk_idx]: ${summary}
       - concat_summaries:
           for:
               value: summary
               in: ${summaries}
               steps:
                   - append_summaries:
                       assign:
                           - all_summaries_concatenated: ${all_summaries_concatenated + "\n" + summary}
       - reduce_summary:
           call: ask_gemini_for_summary
           args:
               textToSummarize: ${all_summaries_concatenated}
           result: final_summary
       - return_result:
           return:
               - summaries: ${summaries}
               - final_summary: ${final_summary}
   
   ask_gemini_for_summary:
       params: [textToSummarize]
       steps:
           - init:
               assign:
                   - project: ${sys.get_env("GOOGLE_CLOUD_PROJECT_ID")}
                   - location: "us-central1"
                   - model: "gemini-2.5-pro"
                   - summary: ""
           - call_gemini:
               call: http.post
               args:
                   url: ${"https://" + location + "-aiplatform.googleapis.com" + "/v1/projects/" + project + "/locations/" + location + "/publishers/google/models/" + model + ":generateContent"}
                   auth:
                       type: OAuth2
                   body:
                       contents:
                           role: user
                           parts:
                               - text: '${"Make a summary of the following text:\n\n" + textToSummarize}'
                       generation_config:
                           temperature: 0.2
                           maxOutputTokens: 2000
                           topK: 10
                           topP: 0.9
               result: gemini_response
           # Sometimes, there's no text, for example, due to safety settings
           - check_text_exists:
               switch:
               - condition: ${not("parts" in gemini_response.body.candidates[0].content)}
                 next: return_summary
           - extract_text:
               assign:
                   - summary: ${gemini_response.body.candidates[0].content.parts[0].text}
           - return_summary:
               return: ${summary}

3. Deploy alur kerja dengan memasukkan perintah berikut:

   gcloud workflows deploy gemini-pro-summaries \
       --source=gemini-pro-summaries.yaml \
       --location=us-central1 \
       --service-account=SERVICE_ACCOUNT_NAME@PROJECT_ID.iam.gserviceaccount.com

Pembersihan

Agar tidak perlu membayar biaya pada akun Google Cloud Anda untuk resource yang digunakan dalam tutorial ini, hapus project yang berisi resource tersebut, atau simpan project dan hapus setiap resource.

Menghapus project

Konsol

Perhatian: Penghapusan project memiliki efek berikut:

• Semua hal dalam project akan dihapus. Jika Anda menggunakan project yang ada untuk mengerjakan tugas di dokumen ini, saat Anda menghapusnya, pekerjaan lain dalam project tersebut juga akan dihapus.
• Project ID kustom akan hilang. Saat membuat project ini, Anda mungkin juga membuat project ID kustom yang masih ingin digunakan pada masa mendatang. Agar tidak kehilangan URL yang menggunakan project ID tersebut, seperti URL appspot.com, hapus resource yang dipilih di dalam project, bukan menghapus seluruh project.

Jika Anda berencana mempelajari beberapa arsitektur, tutorial atau panduan memulai, dengan menggunakan kembali project dapat membantu Anda agar tidak melampaui batas kuota project.

1. Di Konsol Google Cloud , buka halaman Manage resources.

   Buka Kelola resource

2. Pada daftar project, pilih project yang ingin Anda hapus, lalu klik Delete.
3. Pada dialog, ketik project ID, lalu klik Shut down untuk menghapus project.

gcloud

Perhatian: Menghapus project memiliki efek berikut:

• Semua hal dalam project akan dihapus. Jika Anda menggunakan project yang ada untuk mengerjakan tugas di dokumen ini, saat Anda menghapusnya, pekerjaan lain dalam project tersebut juga akan dihapus.
• Project ID kustom akan hilang. Saat membuat project ini, Anda mungkin juga membuat project ID kustom yang masih ingin digunakan pada masa mendatang. Agar tidak kehilangan URL yang menggunakan project ID tersebut, seperti URL appspot.com, hapus resource yang dipilih di dalam project, bukan menghapus seluruh project.

Jika Anda berencana mempelajari beberapa arsitektur, tutorial atau panduan memulai, dengan menggunakan kembali project dapat membantu Anda agar tidak melampaui batas kuota project.

Menghapus Google Cloud project:

gcloud projects delete PROJECT_ID

Menghapus resource satu per satu

Hapus alur kerja yang Anda buat dalam tutorial ini.

Langkah berikutnya

• Pelajari lebih lanjut konektor Workflows.
• Pelajari lebih lanjut cara membuat konten dengan Gemini API di Vertex AI.