Mengaktifkan Model Armor di Gemini Enterprise

Dokumen ini menjelaskan cara mengaktifkan Model Armor untuk Gemini Enterprise. Model Armor adalah layanan yang meningkatkan keamanan dan keselamatan aplikasi AI Anda dengan secara proaktif menyaring perintah dan respons yang diberikan oleh asisten Gemini Enterprise. Google Cloud Hal ini membantu melindungi dari berbagai risiko dan memastikan praktik AI yang bertanggung jawab. Model Armor didukung di semua edisi Gemini Enterprise tanpa biaya tambahan.

Catatan: Mengaktifkan Model Armor di Gemini Enterprise dapat meningkatkan latensi.

Respons Model Armor terhadap potensi masalah dalam kueri pengguna atau respons dari asisten Gemini Enterprise diatur oleh jenis penerapan template. Untuk mengetahui informasi selengkapnya, lihat Menentukan jenis penegakan.

• Jika jenis penegakan adalah Periksa dan blokir, Gemini Enterprise akan memblokir permintaan dan menampilkan pesan error. Ini adalah jenis penerapan default saat Anda membuat template Model Armor menggunakan konsol.

• Jika jenis penegakan adalah Hanya periksa, Gemini Enterprise tidak memblokir permintaan atau respons.

Jika layanan pemeriksaan Model Armor tidak tersedia, Anda dapat mengonfigurasi Gemini Enterprise agar berperilaku dengan salah satu cara berikut:

Mode	Deskripsi
Mengizinkan interaksi pengguna	Dalam mode ini, Gemini Enterprise memungkinkan permintaan dan respons diteruskan tanpa penyaringan proaktif saat layanan penyaringan Model Armor tidak tersedia, sehingga memastikan komunikasi berkelanjutan dengan pengguna akhir. Namun, hal ini terkadang dapat mengekspos pesan yang tidak disaring atau memberikan jawaban untuk kueri yang tidak disaring.
Memblokir semua interaksi pengguna	Dalam mode ini, jika layanan penyaringan Model Armor tidak tersedia, Gemini Enterprise akan memblokir semua permintaan dan respons, termasuk yang sah.

Sebelum memulai

• Pastikan Anda memiliki peran yang diperlukan yang ditetapkan kepada Anda dan akun layanan Gemini Enterprise:

  • Untuk mengaktifkan Model Armor di Gemini Enterprise, Anda memerlukan peran Admin Discovery Engine (roles/discoveryengine.admin).

  • Untuk membuat template Model Armor, Anda memerlukan peran Admin Model Armor (roles/modelarmor.admin).

  • Untuk memanggil Model Armor API, Anda memerlukan peran Pengguna Model Armor (roles/modelarmor.user).

  Catatan: Untuk memberikan beberapa peran IAM ke akun layanan, lihat Memberikan atau mencabut beberapa peran IAM menggunakan konsol Google Cloud .

• Pastikan Anda telah membuat aplikasi Gemini Enterprise. Untuk membuatnya, lihat Membuat aplikasi.

Membuat template Model Armor

Anda dapat membuat dan menggunakan template Model Armor yang sama untuk perintah pengguna dan respons dari asisten, atau Anda dapat membuat dua template Model Armor terpisah. Untuk mengetahui informasi selengkapnya, lihat Membuat template Model Armor.

Saat membuat template Model Armor untuk aplikasi Gemini Enterprise, pertimbangkan konfigurasi berikut:

• Pilih Multi-region di kolom Regions. Tabel berikut menunjukkan cara memetakan wilayah template Model Armor ke wilayah aplikasi Gemini Enterprise:

  Catatan: Setelah template Model Armor dan aplikasi Gemini Enterprise dibuat, region tidak dapat diubah.

  Aplikasi Gemini Enterprise multi-region	Multi-region Model Armor
  Global	Amerika Serikat (beberapa wilayah di Amerika Serikat) EU (beberapa region di Uni Eropa)
  Amerika Serikat (beberapa wilayah di Amerika Serikat)	Amerika Serikat (beberapa wilayah di Amerika Serikat)
  EU (beberapa region di Uni Eropa)	EU (beberapa region di Uni Eropa)

• Google tidak merekomendasikan konfigurasi logging cloud di template Model Armor untuk aplikasi Gemini Enterprise. Konfigurasi ini dapat mengekspos data sensitif kepada pengguna dengan peran IAM Private Logs Viewer (roles/logging.privateLogViewer). Sebagai gantinya, pertimbangkan opsi berikut:

  • Jika perlu mencatat data yang melewati template Model Armor, Anda dapat mengalihkan log ke penyimpanan yang aman seperti BigQuery, yang menawarkan kontrol akses yang lebih ketat. Untuk mengetahui informasi selengkapnya, lihat Merutekan log ke tujuan yang didukung.

  • Anda dapat mengonfigurasi log audit Akses Data untuk menganalisis dan melaporkan verdict pemeriksaan permintaan dan respons yang dihasilkan oleh Model Armor. Untuk mengetahui informasi selengkapnya, lihat Mengonfigurasi log audit.

Mengonfigurasi aplikasi Gemini Enterprise dengan template Model Armor

Langkah-langkah berikut menjelaskan cara menambahkan template Model Armor ke aplikasi Gemini Enterprise Anda.

Konsol

1. Di konsol Google Cloud , buka halaman Gemini Enterprise.

   Gemini Enterprise

2. Klik nama aplikasi yang ingin Anda konfigurasi.

3. Klik Konfigurasi > Asisten.

4. Untuk mengaktifkan Model Armor, klik Aktifkan Model Armor.

5. Untuk Template Model Armor untuk perintah pengguna dan Template Model Armor untuk output respons, masukkan Nama resource template Model Armor yang Anda buat.

   Catatan: Untuk mendapatkan Nama resource, ikuti langkah-langkah dalam dokumentasi Melihat template Model Armor, dan salin nilai Nama resource.

6. Jika Anda ingin memblokir interaksi pengguna selama kegagalan pemrosesan Model Armor, klik tombol Izinkan interaksi pengguna selama kegagalan pemrosesan Model Armor ke posisi nonaktif. Untuk mengetahui informasi selengkapnya, lihat dua mode yang didukung oleh Gemini Enterprise saat Model Armor tidak tersedia.

7. Klik Simpan dan publikasikan.

REST

Untuk menambahkan template Model Armor ke aplikasi Gemini Enterprise Anda, jalankan perintah berikut :

Istilah Penting: Di Gemini Enterprise, istilah aplikasi dapat digunakan secara bergantian dengan istilah mesin dalam konteks API. Mesin Gemini Enterprise adalah mesin telusur generik dengan kolom app_type disetel ke APP_TYPE_INTRANET.

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1alpha/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "QUERY_PROMPT_TEMPLATE",
      "responseTemplate": "RESPONSE_PROMPT_TEMPLATE",
      "failureMode": "FAIL_MODE"
    }
  }
}'

Ganti kode berikut:

• PROJECT_ID: ID project Anda.
• ENDPOINT_LOCATION: multi-region untuk permintaan API Anda. Tetapkan salah satu nilai berikut:
  • us- untuk multi-region Amerika Serikat
  • eu- untuk multi-region Uni Eropa
  • global- untuk lokasi Global
  Untuk mengetahui informasi selengkapnya, lihat Menentukan multi-region untuk penyimpanan data Anda.
• LOCATION: multi-region penyimpanan data Anda: global, us, atau eu
• APP_ID: ID aplikasi yang ingin Anda konfigurasi.
• QUERY_PROMPT_TEMPLATE: Nama resource template Model Armor yang Anda buat.
  Untuk mendapatkan Nama resource, ikuti langkah-langkah dalam dokumentasi Melihat template Model Armor, lalu salin nilai Nama resource.
• RESPONSE_PROMPT_TEMPLATE: Nama resource template Model Armor yang Anda buat.
• FAIL_MODE: mode operasi saat Model Armor tidak tersedia: FAIL_CLOSED atau FAIL_OPEN.
  Jika FAIL_MODE tidak ditentukan, FAIL_CLOSE adalah mode default tempat semua interaksi dengan asisten Gemini Enterprise diblokir jika terjadi kegagalan pemrosesan Model Armor. Untuk mengetahui informasi selengkapnya, lihat dua mode yang didukung oleh Gemini Enterprise saat Model Armor tidak tersedia

Contoh perintah dan hasil

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: my-project-123" \
"https://us-discoveryengine.googleapis.com/v1alpha/projects/my-project-123/locations/us/collections/default_collection/engines/my-app/assistants/default_assistant?update_mask=customer_policy" \
-d '{
  "customer_policy": {
    "modelArmorConfig": {
      "user_prompt_template": "projects/my-project-123/locations/us/templates/123456789",
      "response_template": "projects/my-project-123/locations/us/templates/123456789",
      "failure_mode": "FAIL_OPEN"
    }
  }
}'

{
  "name": "projects/my-project-123/locations/us/collections/default_collection/engines/my-app/assistants/default_assistant",
  "displayName": "Default Assistant",
  "webGroundingType": "WEB_GROUNDING_TYPE_GOOGLE_SEARCH",
  "googleSearchGroundingEnabled": true,
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "projects/my-project-123/locations/us/templates/123456789",
      "responseTemplate": "projects/my-project-123/locations/us/templates/123456789",
      "failureMode": "FAIL_OPEN"
    }
  }
}

Menguji apakah template Model Armor diaktifkan

Setelah mengonfigurasi template Model Armor, uji apakah aplikasi Gemini Enterprise Anda secara proaktif menyaring dan memblokir perintah dan respons pengguna dari asisten Gemini Enterprise, sesuai dengan tingkat keyakinan yang ditetapkan dalam filter Model Armor.

Jika template Model Armor dikonfigurasi untuk Memeriksa dan memblokir permintaan yang melanggar kebijakan, pesan pelanggaran kebijakan berikut akan ditampilkan:

Konsol

Misalnya, Anda melihat pesan pelanggaran kebijakan:

Pesan pelanggaran kebijakan Model Armor

REST

Respons JSON yang mencakup hal berikut:

answer.state = SKIPPED
answer.assist_skipped_reasons: [CUSTOMER_POLICY_VIOLATION]

Menghapus template Model Armor dari aplikasi Gemini Enterprise

Untuk menghapus template Model Armor dari aplikasi Gemini Enterprise, gunakan konsolGoogle Cloud atau REST API.

Konsol

Untuk menghapus template Model Armor dari aplikasi Gemini Enterprise Anda, ikuti langkah-langkah berikut:

1. Di konsol Google Cloud , buka halaman Gemini Enterprise.

   Gemini Enterprise

2. Klik nama aplikasi yang ingin Anda konfigurasi.

3. Klik Konfigurasi > Asisten.

4. Untuk menonaktifkan Model Armor, klik tombol Aktifkan Model Armor ke posisi nonaktif.

5. Klik Simpan dan publikasikan.

REST

Untuk menghapus template Model Armor dari aplikasi Gemini Enterprise Anda, jalankan perintah berikut:

Istilah Penting: Di Gemini Enterprise, istilah aplikasi dapat digunakan secara bergantian dengan istilah mesin dalam konteks API. Mesin Gemini Enterprise adalah mesin telusur generik dengan kolom app_type disetel ke APP_TYPE_INTRANET.

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1alpha/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
    }
  }
}'

Ganti kode berikut:

• PROJECT_ID: ID project Anda.
• PROJECT_NUMBER: jumlah project Google Cloud Anda.
• ENDPOINT_LOCATION: multi-region untuk permintaan API Anda. Tetapkan salah satu nilai berikut:
  • us- untuk multi-region Amerika Serikat
  • eu- untuk multi-region Uni Eropa
  • global- untuk lokasi Global
  Untuk mengetahui informasi selengkapnya, lihat Menentukan multi-region untuk penyimpanan data Anda.
• LOCATION: multi-region penyimpanan data Anda: global, us, atau eu.
• APP_ID: ID aplikasi yang ingin Anda konfigurasi.

Contoh perintah dan hasil

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: my-project-123" \
"https://discoveryengine.googleapis.com/v1alpha/projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
    }
  }
}'

{
  "name": "projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant",
  "displayName": "Default Assistant",
  "webGroundingType": "WEB_GROUNDING_TYPE_GOOGLE_SEARCH",
  "googleSearchGroundingEnabled": true,
  "customerPolicy": {
    "modelArmorConfig": {}
  },
  "generationConfig": {
    "systemInstruction": {}
  }
}

Mengonfigurasi log audit

Model Armor dapat menulis log audit Akses Data, yang dapat Anda gunakan untuk menganalisis dan melaporkan hasil pemeriksaan permintaan dan respons yang dihasilkan oleh Model Armor. Log ini tidak berisi kueri pengguna atau respons dari asisten Gemini Enterprise, sehingga aman untuk pelaporan dan analisis. Untuk mengetahui informasi selengkapnya, lihat Log audit untuk Model Armor.

Untuk mengakses log ini, Anda harus memiliki peran IAM Private Logs Viewer (roles/logging.privateLogViewer).

Mengaktifkan log audit Akses Data

Untuk mengaktifkan log audit Akses Data, ikuti langkah-langkah berikut:

1. Di konsol Google Cloud , buka IAM & Admin > Log Audit.

2. Pilih Model Armor API.

3. Di bagian Jenis izin, pilih jenis izin Baca data.

4. Klik Simpan.

Memeriksa log audit Akses Data

Untuk memeriksa log audit Akses Data, ikuti langkah-langkah berikut:

1. Di konsol Google Cloud , buka Logs Explorer.

2. Telusuri log untuk menemukan nama metode berikut:

   • methodName: "google.cloud.modelarmor.v1.ModelArmor.SanitizeUserPrompt" untuk melihat permintaan pengguna yang telah disaring.

   • google.cloud.modelarmor.v1.ModelArmor.SanitizeModelResponse untuk melihat respons yang disaring.

Pertimbangan saat menggunakan Model Armor

Saat menggunakan Model Armor dengan Gemini Enterprise, pertimbangkan hal berikut:

Token	Batas token untuk aplikasi Gemini Enterprise yang menggunakan Model Armor ditentukan oleh filter spesifik yang dikonfigurasi di Model Armor. Untuk mengetahui informasi mendetail tentang batas ini, lihat batas token yang berlaku dalam dokumentasi Model Armor.
Perjanjian Tingkat Layanan	Gemini Enterprise menyediakan Perjanjian Tingkat Layanan. Jika Gemini Enterprise dikonfigurasi untuk menggunakan Model Armor, kueri yang diblokir tidak dihitung sebagai pelanggaran SLA, terlepas dari apakah mode fail-open atau fail-closed digunakan.
Kepatuhan	Gemini Enterprise dan Model Armor menawarkan berbagai sertifikasi kepatuhan. Jika digunakan bersama, sertifikasi kepatuhan yang efektif adalah subset umum dari kedua produk. Google merekomendasikan peninjauan sertifikasi kepatuhan untuk kedua produk guna memastikan bahwa produk tersebut memenuhi persyaratan peraturan Anda.
Penyeleksian dokumen	Jika template Model Armor dikonfigurasi untuk menyaring permintaan pengguna, maka dokumen yang disertakan dalam permintaan akan disaring. Penyaringan terjadi saat Anda menambahkan dokumen ke permintaan. Jika dokumen melanggar kebijakan dalam template yang dikonfigurasi, dokumen akan dihapus dan tidak disertakan dalam permintaan. Untuk mengetahui daftar jenis dokumen yang didukung, lihat Penyaringan dokumen.