Mengaktifkan Model Armor di Gemini Enterprise

Dokumen ini menjelaskan cara mengaktifkan Model Armor untuk Gemini Enterprise. Model Armor adalah Google Cloud layanan yang meningkatkan keamanan dan keselamatan aplikasi AI Anda dengan secara proaktif menyaring perintah dan respons yang diberikan oleh asisten Gemini Enterprise. Hal ini membantu melindungi dari berbagai risiko dan memastikan praktik AI yang bertanggung jawab. Model Armor didukung di semua edisi Gemini Enterprise tanpa biaya tambahan.

Model Armor tidak menghapus atau mengubah informasi identitas pribadi (PII) atau menutupi data sensitif. Namun, Gemini Enterprise memblokir respons apa pun dari asisten Gemini Enterprise yang memicu detektor Sensitive Data Protection.

Respons Model Armor terhadap potensi masalah dalam kueri pengguna atau respons dari asisten Gemini Enterprise diatur oleh jenis penerapan template. Untuk mengetahui informasi selengkapnya, lihat Menentukan jenis penerapan.

  • Jika jenis penerapan adalah Periksa dan blokir, Gemini Enterprise akan memblokir permintaan dan menampilkan pesan error. Ini adalah jenis penerapan default saat Anda membuat template Model Armor menggunakan konsol.

  • Jika jenis penerapan adalah Periksa saja, Gemini Enterprise tidak akan memblokir permintaan atau respons.

Jika layanan penyaringan Model Armor tidak tersedia, Anda dapat mengonfigurasi Gemini Enterprise agar berperilaku dengan salah satu cara berikut:

Mode Deskripsi
Izinkan interaksi pengguna Dalam mode ini, Gemini Enterprise mengizinkan permintaan dan respons untuk diteruskan tanpa penyaringan proaktif saat layanan penyaringan Model Armor tidak tersedia, sehingga memastikan komunikasi berkelanjutan dengan pengguna akhir. Namun, hal ini terkadang dapat mengekspos pesan yang tidak disaring atau memberikan jawaban untuk kueri yang tidak disaring.
Blokir semua interaksi pengguna Dalam mode ini, saat layanan penyaringan Model Armor tidak tersedia, Gemini Enterprise akan memblokir semua permintaan dan respons, termasuk yang sah.

Sebelum memulai

  • Pastikan Anda memiliki peran yang diperlukan yang ditetapkan kepada Anda dan akun layanan:

    • Untuk mengaktifkan Model Armor di Gemini Enterprise, Anda memerlukan peran Gemini Enterprise Admin (roles/discoveryengine.agentspaceAdmin).

    • Untuk membuat template Model Armor, Anda memerlukan peran Model Armor Admin (roles/modelarmor.admin).

    • Untuk memanggil Model Armor API, Anda memerlukan peran Model Armor User (roles/modelarmor.user).

    • Jika template Model Armor Anda berada dalam project yang berbeda dengan aplikasi Gemini Enterprise, project template harus memberikan peran Model Armor User (roles/modelarmor.user) ke akun layanan aplikasi Gemini Enterprise. ID akun layanan adalah service-PROJECT_NUMBER@gcp-sa-discoveryengine.iam.gserviceaccount.com, dengan PROJECT_NUMBER adalah nomor project aplikasi Gemini Enterprise Anda.

  • Pastikan Anda telah membuat aplikasi Gemini Enterprise. Untuk membuatnya, lihat Membuat aplikasi.

Membuat template Model Armor

Anda dapat membuat dan menggunakan template Model Armor yang sama untuk perintah dan respons pengguna dari asisten, atau Anda dapat membuat dua template Model Armor terpisah. Untuk mengetahui informasi selengkapnya, lihat Membuat template Model Armor.

Saat membuat template Model Armor untuk aplikasi Gemini Enterprise, pertimbangkan konfigurasi berikut:

  • Anda dapat membuat template Model Armor secara terpusat dalam satu project dan menggunakannya kembali di berbagai project. Jika Anda menggunakan template lintas project, pastikan izin lintas project dikonfigurasi seperti yang dijelaskan di Sebelum memulai.

  • Pilih Multi-region di kolom Regions. Tabel berikut menunjukkan cara memetakan region template Model Armor ke region aplikasi Gemini Enterprise:

    Multi-region aplikasi Gemini Enterprise Multi-region Model Armor
    Global
    • AS (beberapa region di Amerika Serikat)
    • UE (beberapa region di Uni Eropa)
    AS (beberapa region di Amerika Serikat) AS (beberapa region di Amerika Serikat)
    UE (beberapa region di Uni Eropa) UE (beberapa region di Uni Eropa)

  • Google tidak merekomendasikan konfigurasi Cloud Logging dalam template Model Armor untuk aplikasi Gemini Enterprise. Konfigurasi ini dapat mengekspos data sensitif kepada pengguna dengan peran IAM Private Logs Viewer (roles/logging.privateLogViewer). Sebagai gantinya, pertimbangkan opsi berikut:

    • Jika Anda perlu mencatat data yang melalui template Model Armor, Anda dapat merutekan ulang log ke penyimpanan yang aman seperti BigQuery, yang menawarkan kontrol akses yang lebih ketat. Untuk mengetahui informasi selengkapnya, lihat Merutekan log ke tujuan yang didukung.

    • Anda dapat mengonfigurasi log audit Akses Data untuk menganalisis dan melaporkan hasil penyaringan permintaan dan respons yang dihasilkan oleh Model Armor. Untuk mengetahui informasi selengkapnya, lihat Mengonfigurasi log audit.

Mengonfigurasi aplikasi Gemini Enterprise dengan template Model Armor

Langkah-langkah berikut menjelaskan cara menambahkan template Model Armor ke aplikasi Gemini Enterprise Anda.

Konsol

  1. Di Google Cloud konsol, buka halaman Gemini Enterprise.

    Gemini Enterprise

  2. Klik nama aplikasi yang ingin Anda konfigurasi.

  3. Klik Configurations > Assistant.

  4. Untuk mengaktifkan Model Armor, klik Enable Model Armor.

  5. Untuk Model Armor template for user prompts dan Model Armor templates for response outputs, masukkan Resource name template Model Armor yang Anda buat.

  6. Jika Anda ingin memblokir interaksi pengguna selama kegagalan pemrosesan Model Armor, klik tombol Allow user interactions during Model Armor processing failure ke posisi nonaktif. Untuk mengetahui informasi selengkapnya, lihat dua mode yang didukung oleh Gemini Enterprise saat Model Armor tidak tersedia.

  7. Klik Save and publish.

REST

Untuk menambahkan template Model Armor ke aplikasi Gemini Enterprise Anda, jalankan perintah berikut :

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
      "userPromptTemplate": "QUERY_PROMPT_TEMPLATE",
      "responseTemplate": "RESPONSE_PROMPT_TEMPLATE",
      "failureMode": "FAIL_MODE"
    }
  }
}'

Ganti kode berikut:

  • PROJECT_ID: ID project Anda.
  • ENDPOINT_LOCATION: multi-region untuk permintaan API Anda. Tentukan salah satu nilai berikut:
    • us untuk multi-region AS
    • eu untuk multi-region UE
    • global untuk lokasi Global
    Untuk mengetahui informasi selengkapnya, lihat Menentukan multi-region untuk penyimpanan data Anda.
  • LOCATION: multi-region penyimpanan data Anda: global, us, atau eu
  • APP_ID: ID aplikasi yang ingin Anda konfigurasi.

  • QUERY_PROMPT_TEMPLATE: Resource name template Model Armor yang Anda buat.
    Untuk mendapatkan Resource name, ikuti langkah-langkah dalam dokumentasi Melihat template Model Armor, lalu salin nilai Resource name.

  • RESPONSE_PROMPT_TEMPLATE: Resource name template Model Armor yang Anda buat. Anda dapat menggunakan template Model Armor yang dibuat dalam project yang sama atau dari project yang berbeda.

  • FAIL_MODE: mode operasi saat Model Armor tidak tersedia: FAIL_CLOSED atau FAIL_OPEN.
    Jika FAIL_MODE tidak ditentukan, FAIL_CLOSED adalah mode default tempat semua interaksi dengan asisten Gemini Enterprise diblokir jika terjadi kegagalan pemrosesan Model Armor. Untuk mengetahui informasi selengkapnya, lihat dua mode yang didukung oleh Gemini Enterprise saat Model Armor tidak tersedia

Menguji apakah template Model Armor diaktifkan

Setelah mengonfigurasi template Model Armor, uji apakah aplikasi Gemini Enterprise Anda secara proaktif menyaring dan memblokir perintah dan respons pengguna dari asisten Gemini Enterprise, sesuai dengan tingkat kepercayaan yang ditetapkan dalam filter Model Armor.

Jika template Model Armor dikonfigurasi untuk Memeriksa dan memblokir permintaan yang melanggar kebijakan, pesan pelanggaran kebijakan berikut akan ditampilkan:

Konsol

Misalnya, Anda melihat pesan pelanggaran kebijakan:
Menampilkan pesan yang diterima pengguna saat melanggar template pelindung model yang diaktifkan untuk aplikasi.
Pesan pelanggaran kebijakan Model Armor

REST

Respons JSON yang mencakup hal berikut:

answer.state = SKIPPED
answer.assist_skipped_reasons: [CUSTOMER_POLICY_VIOLATION]

Menghapus template Model Armor dari aplikasi Gemini Enterprise

Untuk menghapus template Model Armor dari aplikasi Gemini Enterprise, gunakan konsol Google Cloud atau REST API.

Konsol

Untuk menghapus template Model Armor dari aplikasi Gemini Enterprise Anda, ikuti langkah-langkah berikut:

  1. Di Google Cloud konsol, buka halaman Gemini Enterprise.

    Gemini Enterprise

  2. Klik nama aplikasi yang ingin Anda konfigurasi.

  3. Klik Configurations > Assistant.

  4. Untuk menonaktifkan Model Armor, klik tombol Enable Model Armor ke posisi nonaktif.

  5. Klik Save and publish.

REST

Untuk menghapus template Model Armor dari aplikasi Gemini Enterprise Anda, jalankan perintah berikut:

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-H "X-Goog-User-Project: PROJECT_ID" \
"https://ENDPOINT_LOCATION-discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/collections/default_collection/engines/APP_ID/assistants/default_assistant?update_mask=customerPolicy" \
-d '{
  "customerPolicy": {
    "modelArmorConfig": {
    }
  }
}'

Ganti kode berikut:

  • PROJECT_ID: ID project Anda.
  • PROJECT_NUMBER: nomor Google Cloud project Anda.
  • ENDPOINT_LOCATION: multi-region untuk permintaan API Anda. Tentukan salah satu nilai berikut:
    • us untuk multi-region AS
    • eu untuk multi-region UE
    • global untuk lokasi Global
    Untuk mengetahui informasi selengkapnya, lihat Menentukan multi-region untuk penyimpanan data Anda.
  • LOCATION: multi-region penyimpanan data Anda: global, us, atau eu.
  • APP_ID: ID aplikasi yang ingin Anda konfigurasi.

Mengonfigurasi log audit

Model Armor dapat menulis log audit Akses Data, yang dapat Anda gunakan untuk menganalisis dan melaporkan hasil penyaringan permintaan dan respons yang dihasilkan oleh Model Armor. Log ini tidak berisi kueri pengguna atau respons dari asisten Gemini Enterprise, sehingga aman untuk pelaporan dan analisis. Untuk mengetahui informasi selengkapnya, lihat Pencatatan log audit untuk Model Armor.

Untuk mengakses log ini, Anda harus memiliki peran IAM Private Logs Viewer (roles/logging.privateLogViewer).

Mengaktifkan log audit Akses Data

Untuk mengaktifkan log audit Akses Data, ikuti langkah-langkah berikut:

  1. Di Google Cloud konsol, buka IAM & Admin > Log Audit.

  2. Pilih Model Armor API.

  3. Di bagian Jenis izin, pilih jenis izin Data read.

  4. Klik Simpan.

Memeriksa log audit Akses Data

Untuk memeriksa log audit Akses Data, ikuti langkah-langkah berikut:

  1. Di Google Cloud konsol, buka Logs Explorer.

  2. Telusuri log untuk nama metode berikut:

    • methodName: "google.cloud.modelarmor.v1.ModelArmor.SanitizeUserPrompt" untuk melihat permintaan pengguna yang disaring.

    • google.cloud.modelarmor.v1.ModelArmor.SanitizeModelResponse untuk melihat respons yang disaring.

Pertimbangan saat menggunakan Model Armor

Saat menggunakan Model Armor dengan Gemini Enterprise, pertimbangkan hal berikut:

De-identifikasi dan masking Saat Model Armor menggunakan template Perlindungan Data Sensitif untuk memindai perintah atau respons, Model Armor akan memeriksa apakah konten tersebut cocok dengan kriteria detektor yang ditentukan dalam template. Meskipun Perlindungan Data Sensitif mendukung de-identifikasi berdasarkan konfigurasi template, Model Armor tidak meneruskan data yang di-de-identifikasi atau ditutupi kembali ke Gemini Enterprise. Jika konten memicu detektor apa pun dari Perlindungan Data Sensitif dan jenis penerapannya adalah INSPECT_AND_BLOCK, Gemini Enterprise akan memblokir permintaan atau respons, bukan melakukan de-identifikasi.
Kuota dan batas token Meskipun tidak ada batas token langsung saat Anda menggunakan Model Armor dengan Gemini Enterprise, total throughput evaluasi Model Armor Anda masih diatur secara tidak langsung oleh kuota sistem Gemini Enterprise dan batas frekuensi Model Armor API.
Perjanjian Tingkat Layanan Gemini Enterprise menyediakan Perjanjian Tingkat Layanan. Saat Gemini Enterprise dikonfigurasi untuk menggunakan Model Armor, kueri yang diblokir tidak dihitung sebagai pelanggaran SLA, terlepas dari apakah mode fail-open atau fail-closed digunakan.
Kepatuhan Gemini Enterprise dan Model Armor menawarkan berbagai sertifikasi kepatuhan. Jika digunakan bersama, sertifikasi kepatuhan yang efektif adalah subset umum dari kedua produk. Google merekomendasikan untuk meninjau sertifikasi kepatuhan untuk kedua produk guna memastikan bahwa sertifikasi tersebut memenuhi persyaratan peraturan Anda.
Penyaringan dokumen dan gambar Selain perintah teks, integrasi Model Armor mendukung dokumen (seperti PDF) dan gambar. Integrasi Model Armor menyaring file berikut hanya saat Anda menguploadnya ke asisten Gemini Enterprise:
  • Dokumen (seperti PDF, CSV, dan file teks).
  • Gambar yang Anda upload secara langsung.
  • Gambar yang terdapat di dalam file dan dokumen lain yang Anda upload secara langsung.
Jika file atau gambar di dalam dokumen melanggar kebijakan yang Anda konfigurasi, seluruh file atau dokumen akan dihapus dan dikecualikan dari permintaan. Untuk mengetahui daftar jenis dokumen yang didukung, lihat Penyaringan dokumen.
Interaksi dan agen yang disaring Jika template Model Armor dikonfigurasi untuk menyaring permintaan pengguna permintaan, hanya interaksi dengan agen berikut yang disaring di Gemini Enterprise: Interaksi dengan agen kustom dari organisasi Anda, seperti ADK, A2A, dan Dialogflow, tidak disaring.

Langkah berikutnya