Mengaktifkan Model Armor di Gemini Enterprise

Dokumen ini menjelaskan cara mengaktifkan Model Armor untuk Gemini Enterprise. Model Armor adalah Google Cloud layanan yang meningkatkan keamanan dan keselamatan aplikasi AI Anda dengan secara proaktif menyaring perintah dan respons yang diberikan oleh asisten Gemini Enterprise. Hal ini membantu melindungi dari berbagai risiko dan memastikan praktik AI yang bertanggung jawab. Model Armor didukung di semua edisi Gemini Enterprise tanpa biaya tambahan.

Model Armor tidak menghapus atau mengubah informasi identitas pribadi (PII) atau menutupi data sensitif. Namun, Gemini Enterprise memblokir respons apa pun dari asisten Gemini Enterprise yang memicu filter Perlindungan Data Sensitif (SDP).

Catatan: Mengaktifkan Model Armor di Gemini Enterprise dapat meningkatkan latensi.

Respons Model Armor terhadap potensi masalah dalam kueri pengguna atau respons dari asisten Gemini Enterprise diatur oleh jenis penerapan template. Untuk mengetahui informasi selengkapnya, lihat Menentukan jenis penerapan.

• Jika jenis penerapannya adalah Periksa dan blokir, Gemini Enterprise akan memblokir permintaan dan menampilkan pesan error. Ini adalah jenis penerapan default saat Anda membuat template Model Armor menggunakan konsol.

• Jika jenis penerapannya adalah Periksa saja, Gemini Enterprise tidak akan memblokir permintaan atau respons.

Jika layanan penyaringan Model Armor tidak tersedia, Anda dapat mengonfigurasi Gemini Enterprise agar berperilaku dengan salah satu cara berikut:

Mode	Deskripsi
Izinkan interaksi pengguna	Dalam mode ini, Gemini Enterprise mengizinkan permintaan dan respons untuk diteruskan tanpa penyaringan proaktif saat layanan penyaringan Model Armor tidak tersedia, sehingga memastikan komunikasi berkelanjutan dengan pengguna akhir. Namun, hal ini terkadang dapat mengekspos pesan yang tidak disaring atau memberikan jawaban untuk kueri yang tidak disaring.
Blokir semua interaksi pengguna	Dalam mode ini, saat layanan penyaringan Model Armor tidak tersedia, Gemini Enterprise akan memblokir semua permintaan dan respons, termasuk yang sah.

Sebelum memulai

• Pastikan Anda memiliki peran yang diperlukan yang ditetapkan kepada Anda dan akun layanan Gemini Enterprise:

  • Untuk mengaktifkan Model Armor di Gemini Enterprise, Anda memerlukan peran Gemini Enterprise Admin (roles/discoveryengine.agentspaceAdmin).

  • Untuk membuat template Model Armor, Anda memerlukan Model Armor Admin peran (roles/modelarmor.admin).

  • Untuk memanggil Model Armor API, Anda memerlukan peran Model Armor User (roles/modelarmor.user).

  Catatan: Untuk memberikan beberapa peran IAM ke akun layanan, lihat Memberikan atau mencabut beberapa peran IAM menggunakan Google Cloud konsol.

• Pastikan Anda telah membuat aplikasi Gemini Enterprise. Untuk membuatnya, lihat Membuat aplikasi.

Membuat template Model Armor

Anda dapat membuat dan menggunakan template Model Armor yang sama untuk perintah dan respons pengguna dari asisten, atau Anda dapat membuat dua template Model Armor terpisah. Untuk mengetahui informasi selengkapnya, lihat Membuat template Model Armor.

Saat membuat template Model Armor untuk aplikasi Gemini Enterprise, pertimbangkan konfigurasi berikut:

• Pilih Multi-region di kolom Regions. Tabel berikut menunjukkan cara memetakan region template Model Armor ke region aplikasi Gemini Enterprise:

  Catatan: Setelah template Model Armor dan aplikasi Gemini Enterprise dibuat, region tidak dapat diubah.

  Multi-region aplikasi Gemini Enterprise	Multi-region Model Armor
  Global	AS (beberapa region di Amerika Serikat) Uni Eropa (beberapa region di Uni Eropa)
  AS (beberapa region di Amerika Serikat)	AS (beberapa region di Amerika Serikat)
  Uni Eropa (beberapa region di Uni Eropa)	Uni Eropa (beberapa region di Uni Eropa)

• Google tidak merekomendasikan konfigurasi logging cloud di template Model Armor untuk aplikasi Gemini Enterprise. Konfigurasi ini dapat mengekspos data sensitif kepada pengguna dengan peran IAM Private Logs Viewer (roles/logging.privateLogViewer). Sebagai gantinya, pertimbangkan opsi berikut:

  • Jika Anda perlu mencatat data yang melalui template Model Armor, Anda dapat mengalihkan log ke penyimpanan yang aman seperti BigQuery, yang menawarkan kontrol akses yang lebih ketat. Untuk mengetahui informasi selengkapnya, lihat Merutekan log ke tujuan yang didukung.

  • Anda dapat mengonfigurasi log audit Akses Data untuk menganalisis dan melaporkan hasil penyaringan permintaan dan respons yang dihasilkan oleh Model Armor. Untuk mengetahui informasi selengkapnya, lihat Mengonfigurasi log audit.

Mengonfigurasi aplikasi Gemini Enterprise dengan template Model Armor

Langkah-langkah berikut menjelaskan cara menambahkan template Model Armor ke aplikasi Gemini Enterprise Anda.

Konsol

1. Di Google Cloud konsol, buka halaman Gemini Enterprise.

   Gemini Enterprise

2. Klik nama aplikasi yang ingin Anda konfigurasi.

3. Klik Configurations > Assistant.

4. Untuk mengaktifkan Model Armor, klik Enable Model Armor.

5. Untuk Model Armor template for user prompts dan Model Armor templates for response outputs, masukkan Resource name template Model Armor yang Anda buat.

   Catatan: Untuk mendapatkan Resource name, ikuti langkah-langkah dalam dokumentasi Melihat template Model Armor, lalu salin nilai Resource name.

6. Jika Anda ingin memblokir interaksi pengguna selama kegagalan pemrosesan Model Armor, klik tombol Allow user interactions during Model Armor processing failure ke posisi nonaktif. Untuk mengetahui informasi selengkapnya, lihat dua mode yang didukung oleh Gemini Enterprise saat Model Armor tidak tersedia.

7. Klik Save and publish.

REST

Untuk menambahkan template Model Armor ke aplikasi Gemini Enterprise Anda, jalankan perintah berikut :

Istilah Kunci: Di Gemini Enterprise, istilah aplikasi dapat digunakan secara bergantian dengan istilah mesin dalam konteks API. Mesin Gemini Enterprise adalah mesin penelusuran umum dengan kolom app_type yang ditetapkan ke APP_TYPE_INTRANET.

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "QUERY_PROMPT_TEMPLATE",
      "responseTemplate": "RESPONSE_PROMPT_TEMPLATE",
      "failureMode": "FAIL_MODE"
    }
  }
}'

Ganti kode berikut:

• PROJECT_ID: ID project Anda.
• ENDPOINT_LOCATION: multi-region untuk permintaan API Anda. Tentukan salah satu nilai berikut:
  • us untuk multi-region AS
  • eu untuk multi-region Uni Eropa
  • global untuk lokasi Global
  Untuk mengetahui informasi selengkapnya, lihat Menentukan multi-region untuk penyimpanan data Anda.
• LOCATION: multi-region penyimpanan data Anda: global, us, atau eu
• APP_ID: ID aplikasi yang ingin Anda konfigurasi.
• QUERY_PROMPT_TEMPLATE: Resource name template Model Armor yang Anda buat.
  Untuk mendapatkan Resource name, ikuti langkah-langkah dalam dokumentasi Melihat template Model Armor, lalu salin nilai Resource name.
• RESPONSE_PROMPT_TEMPLATE: Resource name template Model Armor yang Anda buat.
• FAIL_MODE: mode operasi saat Model Armor tidak tersedia: FAIL_CLOSED atau FAIL_OPEN.
  Jika FAIL_MODE tidak ditentukan, FAIL_CLOSE adalah mode default saat semua interaksi dengan asisten Gemini Enterprise diblokir jika terjadi kegagalan pemrosesan Model Armor. Untuk mengetahui informasi selengkapnya, lihat dua mode yang didukung oleh Gemini Enterprise saat Model Armor tidak tersedia

Contoh perintah dan hasil

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: my-project-123" \
"https://discoveryengine.googleapis.com/v1/projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "responseTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "failureMode": "FAIL_OPEN"
    }
  }
}'

{
  "name": "projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant",
  "displayName": "Default Assistant",
  "webGroundingType": "WEB_GROUNDING_TYPE_GOOGLE_SEARCH",
  "googleSearchGroundingEnabled": true,
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "responseTemplate": "projects/my-project-123/locations/global/templates/123456789",
      "failureMode": "FAIL_OPEN"
    }
  }
}

Menguji apakah template Model Armor diaktifkan

Setelah mengonfigurasi template Model Armor, uji apakah aplikasi Gemini Enterprise Anda secara proaktif menyaring dan memblokir perintah dan respons pengguna dari asisten Gemini Enterprise, sesuai dengan tingkat kepercayaan yang ditetapkan dalam filter Model Armor.

Jika template Model Armor dikonfigurasi untuk Memeriksa dan memblokir permintaan yang melanggar kebijakan, pesan pelanggaran kebijakan berikut akan ditampilkan:

Konsol

Misalnya, Anda melihat pesan pelanggaran kebijakan:

Pesan pelanggaran kebijakan Model Armor

REST

Respons JSON yang mencakup hal berikut:

answer.state = SKIPPED
answer.assist_skipped_reasons: [CUSTOMER_POLICY_VIOLATION]

Menghapus template Model Armor dari aplikasi Gemini Enterprise

Untuk menghapus template Model Armor dari aplikasi Gemini Enterprise, gunakan Google Cloud konsol atau REST API.

Konsol

Untuk menghapus template Model Armor dari aplikasi Gemini Enterprise Anda, ikuti langkah-langkah berikut:

1. Di Google Cloud konsol, buka halaman Gemini Enterprise.

   Gemini Enterprise

2. Klik nama aplikasi yang ingin Anda konfigurasi.

3. Klik Configurations > Assistant.

4. Untuk menonaktifkan Model Armor, klik tombol Enable Model Armor ke posisi nonaktif.

5. Klik Save and publish.

REST

Untuk menghapus template Model Armor dari aplikasi Gemini Enterprise Anda, jalankan perintah berikut:

Istilah Kunci: Di Gemini Enterprise, istilah aplikasi dapat digunakan secara bergantian dengan istilah mesin dalam konteks API. Mesin Gemini Enterprise adalah mesin penelusuran umum dengan kolom app_type yang ditetapkan ke APP_TYPE_INTRANET.

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
    }
  }
}'

Ganti kode berikut:

• PROJECT_ID: ID project Anda.
• PROJECT_NUMBER: nomor Google Cloud project Anda.
• ENDPOINT_LOCATION: multi-region untuk permintaan API Anda. Tentukan salah satu nilai berikut:
  • us untuk multi-region AS
  • eu untuk multi-region Uni Eropa
  • global untuk lokasi Global
  Untuk mengetahui informasi selengkapnya, lihat Menentukan multi-region untuk penyimpanan data Anda.
• LOCATION: multi-region penyimpanan data Anda: global, us, atau eu.
• APP_ID: ID aplikasi yang ingin Anda konfigurasi.

Contoh perintah dan hasil

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: my-project-123" \
"https://discoveryengine.googleapis.com/v1/projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
    }
  }
}'

{
  "name": "projects/my-project-123/locations/global/collections/default_collection/engines/my-app/assistants/default_assistant",
  "displayName": "Default Assistant",
  "webGroundingType": "WEB_GROUNDING_TYPE_GOOGLE_SEARCH",
  "googleSearchGroundingEnabled": true,
  "customerPolicy": {
    "modelArmorConfig": {}
  },
  "generationConfig": {
    "systemInstruction": {}
  }
}

Mengonfigurasi log audit

Model Armor dapat menulis log audit Akses Data, yang dapat Anda gunakan untuk menganalisis dan melaporkan hasil penyaringan permintaan dan respons yang dihasilkan oleh Model Armor. Log ini tidak berisi kueri pengguna atau respons dari asisten Gemini Enterprise, sehingga aman untuk pelaporan dan analisis. Untuk mengetahui informasi selengkapnya, lihat Log audit untuk Model Armor.

Untuk mengakses log ini, Anda harus memiliki peran IAM Private Logs Viewer (roles/logging.privateLogViewer).

Mengaktifkan log audit Akses Data

Untuk mengaktifkan log audit Akses Data, ikuti langkah-langkah berikut:

1. Di Google Cloud konsol, buka IAM & Admin > Log Audit.

2. Pilih Model Armor API.

3. Di bagian Jenis izin, pilih jenis izin Data read.

4. Klik Simpan.

Memeriksa log audit Akses Data

Untuk memeriksa log audit Akses Data, ikuti langkah-langkah berikut:

1. Di Google Cloud konsol, buka Logs Explorer.

2. Telusuri log untuk nama metode berikut:

   • methodName: "google.cloud.modelarmor.v1.ModelArmor.SanitizeUserPrompt" untuk melihat permintaan pengguna yang disaring.

   • google.cloud.modelarmor.v1.ModelArmor.SanitizeModelResponse untuk melihat respons yang disaring.

Pertimbangan saat menggunakan Model Armor

Saat menggunakan Model Armor dengan Gemini Enterprise, pertimbangkan hal berikut:

Token	Batas token untuk aplikasi Gemini Enterprise yang menggunakan Model Armor ditentukan oleh filter tertentu yang dikonfigurasi di Model Armor. Untuk mengetahui informasi mendetail tentang batas ini, lihat batas token yang berlaku dalam dokumentasi Model Armor.
Perjanjian Tingkat Layanan	Gemini Enterprise menyediakan Perjanjian Tingkat Layanan. Jika Gemini Enterprise dikonfigurasi untuk menggunakan Model Armor, kueri yang diblokir tidak dihitung sebagai pelanggaran SLA, terlepas dari apakah mode fail-open atau fail-closed digunakan.
Kepatuhan	Gemini Enterprise dan Model Armor menawarkan berbagai sertifikasi kepatuhan. Jika digunakan bersama, sertifikasi kepatuhan yang efektif adalah subset umum dari kedua produk. Google merekomendasikan untuk meninjau sertifikasi kepatuhan untuk kedua produk guna memastikan bahwa sertifikasi tersebut memenuhi persyaratan peraturan Anda.
Penyaringan dokumen	Jika template Model Armor dikonfigurasi untuk menyaring permintaan pengguna, maka dokumen yang disertakan dalam permintaan akan disaring. Penyaringan terjadi saat Anda menambahkan dokumen ke permintaan. Jika dokumen melanggar kebijakan dalam template yang dikonfigurasi, dokumen akan dihapus dan tidak disertakan dalam permintaan. Untuk mengetahui daftar jenis dokumen yang didukung, lihat Penyaringan dokumen.