Filter bantuan pengetahuan

Filter membantu Anda mempersempit penelusuran dan memastikan generator bantuan pengetahuan menghasilkan saran yang berguna. Memfilter dokumen di Datastore untuk menentukan kategori dokumen sebagai referensi dalam bantuan pengetahuan generatif (GKA) dan bantuan pengetahuan generatif proaktif (PGKA). Sesuaikan filter keamanan pada konten yang dihasilkan untuk memastikan saran PGKA sangat membantu dan tidak membahayakan kebutuhan bisnis Anda.

Filter dokumen

Memfilter dokumen bantuan pengetahuan untuk GKA dan PGKA dengan SearchConfig.

Langkah 1: Siapkan Datastore dengan metadata

Impor dengan metadata untuk membuat Datastore untuk GKA dan PGKA. Anda harus memberikan metadata sebagai satu atau beberapa file JSONL, yang berada di folder tingkat yang lebih tinggi dari konten yang digunakan untuk impor.

  1. Ikuti langkah-langkah di halaman alat Datastore untuk menambahkan Datastore ke agen.
  2. Di halaman AI Applications, klik Data Stores > + Create Data Store.
  3. Buka Cloud Storage, lalu klik Pilih.
  4. Klik File, lalu masukkan jalur ke file Anda di Cloud Storage atau klik Cari untuk memilih file Anda.
  5. Buka What kind of data are you importing?, lalu pilih Linked unstructured documents (JSONL with metadata).
  6. Buka Opsi impor data, lalu pilih Penuh.
  7. Klik Import.
  8. Setelah berhasil membuat Datastore, lihat tabel Dokumen. Tabel mencantumkan setiap dokumen Anda dengan detail berikut.
    • ID
    • Link URI
    • Status indeks
    • Tindakan
  9. Klik Lihat Dokumen untuk memeriksa properti dokumen.

Berikut adalah contoh file JSONL. Anda juga dapat menentukan metadata di kolom structData.

{ "id": "d001", "content": {"mimeType": "text/html", "uri": "gs://example-import/unstructured/first_doc.html"}, "structData": {"property0": "value0", "property1": "value1", "property2": "value2"} }
{ "id": "d002", "content": {"mimeType": "application/pdf", "uri": "gs://example-import/unstructured/second_doc.pdf"}, "structData": {"property0": "value0", "property1": "value3", "property2": "value4"} }

Langkah 2: Konfigurasi filter

Untuk menerapkan nilai filter secara langsung ke penelusuran GKA, panggil API SearchKnowledge. Anda juga dapat menerapkan kolom SearchConfig dalam permintaan, seperti berikut. Lihat dokumentasi Vertex AI Search untuk mengetahui contoh ekspresi filter lainnya.

{
  "query": {
     "text": "test query"
  },
  "conversationProfile": "projects/PROJECT_ID/locations/LOCATION_ID/conversationProfiles/CONVERSATION_PROFILE_ID",
  "sessionId": "SESSION_ID",
  "conversation": "projects/PROJECT_ID/locations/LOCATION_ID/conversations/CONVERSATION_ID",
  "querySource": "AGENT_QUERY",
  "searchConfig": 
    "filterSpecs": [{
      "dataStores": ["projects/PROJECT_NUMBER/locations/LOCATION_ID/collections/default_collection/dataStores/DATASTORE_ID"],
      "filter": "property1 : ANY(\"value1\")" 
      }]
    }
  }
}

Untuk menerapkan nilai filter di semua kueri dan saran penelusuran pengetahuan dalam satu percakapan, gunakan IngestContextReferences dan lampirkan ID percakapan ke panggilan SearchKnowledge.

Filter dokumen PGKA

Terapkan SearchConfig ke panggilan PGKA menggunakan IngestContextReferences API atau simulator di konsol Agent Assist.

API

Panggil API IngestContextReferences untuk menerapkan SearchConfig ke panggilan PGKA.

  1. Panggil CreateConversation > IngestContextReferences.
  2. Konfigurasi ini otomatis berlaku untuk semua kueri PGKA dan saran jawaban berikutnya dalam percakapan yang sama.

Contoh berikut menunjukkan cara menggunakanIngestContextReferences API.

{
  "conversation": "projects/PROJECT_ID/locations/global/conversations/CONVERSATION_ID",
  "contextReferences": {
   "gka_search_config": {
      "contextContents": [{
"content": "{ \"filterSpecs\": [{ \"dataStores\": [\"projects/PROJECT_NUMBER/locations/LOCATION_ID/collections/default_collection/dataStores/DATASTORE_ID\"], \"filter\": \"property1: ANY    (\\\"value1\\\")\" }] }",
        "contentFormat": "JSON"
      }],
      "updateMode": "OVERWRITE",
      "languageCode": "en-US"
    }
  }
}

Konsol

  1. Buka konsol Agent Assist, login, lalu pilih project Anda.

    Buka konsol

  2. Klik Simulator, lalu pilih profil percakapan Anda.

  3. Klik Mulai > Suntikkan konteks.

  4. Masukkan Kunci, Konten, dan pilih salah satu Format berikut.

    • Teks biasa
    • JSON

  5. Klik Simpan.

Berikut adalah contoh konteks untuk simulator.

  • Kunci: gka_search_config
  • Format: JSON
  • Konten:
{ "filterSpecs": [{"dataStores" : ["projects/PROJECT_NUMBER/locations/LOCATION_ID/collections/default_collection/dataStores/DATASTORE_ID"], "filter" : "property1 : ANY(\"value1\")" }] }

Filter keamanan

Fitur generatif di Agent Assist memiliki filter keamanan responsible AI (RAI) bawaan. Filter ini sangat penting untuk mencegah pembuatan konten yang berpotensi berbahaya atau tidak pantas. Namun, tingkat keamanan default dapat terlalu ketat untuk industri tertentu. Misalnya, penyedia layanan kesehatan mungkin perlu merespons kueri yang sah tentang topik kesehatan sensitif yang diblokir oleh filter default. Untuk menyelaraskan perilaku generator dengan kebutuhan dan kasus penggunaan bisnis Anda, Anda dapat menyesuaikan sensitivitas filter keamanan untuk fitur PGKA.

Dasar-dasar

Ada dua komponen utama pada filter keamanan:

  • Kategori konten untuk pemfilteran
  • Tingkat sensitivitas filter

Kategori RAI

Anda dapat menetapkan tingkat sensitivitas untuk kategori konten berikut:

  • Konten berbahaya: Konten yang merujuk pada tindakan menyakiti diri sendiri atau apa pun yang ilegal, diatur, atau berbahaya.
  • Seksual vulgar: Konten yang seksual vulgar atau berisi materi pornografi.
  • Pelecehan: Konten yang menghina, mengintimidasi, atau melecehkan.
  • Ujaran kebencian: Konten yang mendukung kekerasan atau menghasut kebencian terhadap individu atau kelompok berdasarkan atribut tertentu.

Tingkat sensitivitas

Untuk setiap kategori RAI, Anda dapat memilih salah satu nilai minimum sensitivitas berikut:

  • BLOCK_MOST: Memblokir berbagai konten yang berpotensi termasuk dalam kategori tersebut.
  • BLOCK_SOME: Memblokir konten yang jelas-jelas diidentifikasi sebagai milik kategori tersebut.
  • BLOCK_FEW: Hanya memblokir instance konten yang paling parah untuk kategori tersebut.
  • BLOCK_NONE: Menonaktifkan semua filter untuk kategori yang ditentukan.

Setelan default

Jika Anda tidak memberikan konfigurasi kustom untuk suatu kategori, bantuan pengetahuan generatif proaktif akan menggunakan tingkat sensitivitas default berikut:

  • Konten berbahaya: BLOCK_FEW
  • Seksual vulgar: BLOCK_SOME
  • Pelecehan: BLOCK_SOME
  • Ujaran kebencian: BLOCK_SOME

Mengonfigurasi filter keamanan

Mengonfigurasi filter keamanan dalam profil percakapan Anda. Anda dapat menentukan tingkat sensitivitas untuk satu atau beberapa kategori RAI dengan menambahkan objek rai_settings ke konfigurasi fitur untuk KNOWLEDGE_ASSIST. Anda dapat menemukan setelan filter keamanan dalam array feature_configs untuk fitur saran KNOWLEDGE_ASSIST.

{
  "name": "projects/PROJECT_ID/locations/LOCATION/conversationProfiles/PROFILE_ID",
  "human_agent_assistant_config": {
    "human_agent_suggestion_config": {
      "feature_configs": [
        {
          "suggestion_feature": {
            "type": "KNOWLEDGE_ASSIST"
          },
          "rai_settings": {
            "rai_category_configs": [
              {
                "category": "DANGEROUS_CONTENT",
                "sensitivity_level": "BLOCK_FEW"
              },
              {
                "category": "HARASSMENT",
                "sensitivity_level": "BLOCK_MOST"
              }
            ]
          }
        }
      ]
    }
  }
}

Contoh konfigurasi

Contoh berikut mengilustrasikan cara meningkatkan atau menurunkan tingkat sensitivitas untuk satu kategori sesuai dengan kebutuhan bisnis Anda.

Contoh 1: Mengizinkan kueri layanan kesehatan sensitif

Sebagai penyedia layanan kesehatan, Anda ingin memastikan bahwa kueri tentang topik kesehatan mental yang sensitif tidak diblokir. Anda dapat menurunkan sensitivitas untuk kategori konten berbahaya, sebagai berikut.

"rai_settings": {
  "rai_category_configs": [
    {
      "category": "DANGEROUS_CONTENT",
      "sensitivity_level": "BLOCK_NONE"
    }
  ]
}

Dengan setelan ini, bantuan pengetahuan generatif proaktif lebih cenderung memproses dan memberikan respons yang bermanfaat untuk kueri seperti Apa saja tanda peringatan bunuh diri?.

Contoh 2: Meningkatkan pengetatan

Jika bisnis Anda ingin lebih berhati-hati terhadap pelecehan, Anda dapat meningkatkan sensitivitas untuk kategori tersebut sambil membiarkan kategori lainnya pada tingkat defaultnya, sebagai berikut.

"rai_settings": {
  "rai_category_configs": [
    {
      "category": "HARASSMENT",
      "sensitivity_level": "BLOCK_MOST"
    }
  ]
}