Filter membantu Anda mempersempit penelusuran dan memastikan generator bantuan pengetahuan menghasilkan saran yang berguna. Filter dokumen di Datastore untuk menentukan kategori dokumen sebagai referensi dalam bantuan pengetahuan generatif (GKA) dan bantuan pengetahuan generatif proaktif (PGKA). Sesuaikan filter keamanan pada konten yang dihasilkan untuk memastikan saran PGKA sangat membantu dan tidak berbahaya bagi kebutuhan bisnis Anda.
Filter dokumen
Filter dokumen bantuan pengetahuan untuk GKA dan PGKA dengan SearchConfig.
Langkah 1: Siapkan Datastore dengan metadata
Impor dengan metadata untuk membuat Datastore untuk GKA dan PGKA. Anda harus memberikan metadata sebagai satu atau beberapa file JSONL, yang terletak di folder tingkat yang lebih tinggi dari konten yang digunakan untuk impor.
- Ikuti langkah-langkah di halaman alat Datastore untuk menambahkan Datastore ke agen.
- Di halaman Aplikasi AI, klik Data Stores > + Create Data Store.
- Buka Cloud Storage, lalu klik Select.
- Klik File, lalu masukkan jalur ke file Anda di Cloud Storage atau klik Browse untuk memilih file Anda.
- Buka What kind of data are you importing? , lalu pilih Linked unstructured documents (JSONL with metadata).
- Buka Data import options , lalu pilih Full.
- Klik Import.
- Setelah berhasil membuat Datastore, lihat tabel Dokumen. Tabel ini mencantumkan setiap dokumen Anda dengan detail berikut.
- ID
- Link URI
- Status indeks
- Tindakan
- Klik View Document untuk memeriksa properti dokumen.
Berikut adalah contoh file JSONL. Anda juga dapat menentukan metadata di kolom structData.
{ "id": "d001", "content": {"mimeType": "text/html", "uri": "gs://example-import/unstructured/first_doc.html"}, "structData": {"property0": "value0", "property1": "value1", "property2": "value2"} }
{ "id": "d002", "content": {"mimeType": "application/pdf", "uri": "gs://example-import/unstructured/second_doc.pdf"}, "structData": {"property0": "value0", "property1": "value3", "property2": "value4"} }
Langkah 2: Konfigurasikan filter
Untuk menerapkan nilai filter secara langsung ke penelusuran GKA, panggil SearchKnowledge API. Anda juga dapat menerapkan kolom SearchConfig dalam permintaan, sebagai berikut. Lihat dokumentasi Vertex AI Search untuk mengetahui contoh ekspresi filter lainnya.
{
"query": {
"text": "test query"
},
"conversationProfile": "projects/PROJECT_ID/locations/LOCATION_ID/conversationProfiles/CONVERSATION_PROFILE_ID",
"sessionId": "SESSION_ID",
"conversation": "projects/PROJECT_ID/locations/LOCATION_ID/conversations/CONVERSATION_ID",
"querySource": "AGENT_QUERY",
"searchConfig":
"filterSpecs": [{
"dataStores": ["projects/PROJECT_NUMBER/locations/LOCATION_ID/collections/default_collection/dataStores/DATASTORE_ID"],
"filter": "property1 : ANY(\"value1\")"
}]
}
}
}
Untuk menerapkan nilai filter di semua kueri dan saran penelusuran pengetahuan dalam satu percakapan, gunakan IngestContextReferences dan lampirkan ID percakapan ke panggilan SearchKnowledge.
Filter dokumen PGKA
Terapkan SearchConfig ke panggilan PGKA menggunakan IngestContextReferences API atau simulator di konsol Agent Assist.
API
Panggil IngestContextReferences API untuk menerapkan SearchConfig ke panggilan PGKA.
- Panggil
CreateConversation>IngestContextReferences. - Konfigurasi ini akan otomatis diterapkan ke semua kueri PGKA dan saran jawaban berikutnya dalam percakapan yang sama.
Contoh berikut menunjukkan cara menggunakanIngestContextReferences API.
{
"conversation": "projects/PROJECT_ID/locations/global/conversations/CONVERSATION_ID",
"contextReferences": {
"gka_search_config": {
"contextContents": [{
"content": "{ \"filterSpecs\": [{ \"dataStores\": [\"projects/PROJECT_NUMBER/locations/LOCATION_ID/collections/default_collection/dataStores/DATASTORE_ID\"], \"filter\": \"property1: ANY (\\\"value1\\\")\" }] }",
"contentFormat": "JSON"
}],
"updateMode": "OVERWRITE",
"languageCode": "en-US"
}
}
}
Konsol
Buka konsol Agent Assist, login, lalu pilih project Anda.
Klik Simulator , lalu pilih profil percakapan Anda.
Klik Start > Inject context.
Masukkan Key, Content, lalu pilih salah satu Format berikut.
- Teks biasa
- JSON
Klik Save.
Berikut adalah contoh konteks untuk simulator.
- Key:
gka_search_config - Format:
JSON - Content:
{ "filterSpecs": [{"dataStores" : ["projects/PROJECT_NUMBER/locations/LOCATION_ID/collections/default_collection/dataStores/DATASTORE_ID"], "filter" : "property1 : ANY(\"value1\")" }] }
Filter keamanan
Fitur generatif di Agent Assist memiliki filter keamanan responsible AI (RAI) bawaan. Filter ini penting untuk mencegah pembuatan konten yang berpotensi berbahaya atau tidak pantas. Namun, tingkat keamanan default dapat terlalu ketat untuk industri tertentu. Misalnya, penyedia layanan kesehatan mungkin perlu merespons kueri yang sah tentang topik kesehatan sensitif yang diblokir oleh filter default. Untuk menyelaraskan perilaku generator dengan kebutuhan dan kasus penggunaan bisnis Anda, Anda dapat menyesuaikan sensitivitas filter keamanan untuk fitur PGKA.
Dasar-dasar
Ada dua komponen utama filter keamanan:
- Kategori konten untuk pemfilteran
- Tingkat sensitivitas filter
Kategori RAI
Anda dapat menetapkan tingkat sensitivitas untuk kategori konten berikut:
- Konten berbahaya: Konten yang mengacu pada tindakan menyakiti diri sendiri atau hal apa pun yang ilegal, diatur, atau berbahaya.
- Seksual vulgar: Konten yang seksual vulgar atau berisi materi pornografi.
- Pelecehan: Konten yang menghina, mengintimidasi, atau kasar.
- Ujaran kebencian: Konten yang mendukung kekerasan atau menghasut kebencian terhadap individu atau kelompok berdasarkan atribut tertentu.
Tingkat sensitivitas
Untuk setiap kategori RAI, Anda dapat memilih salah satu nilai minimum sensitivitas berikut:
BLOCK_MOST: Memblokir berbagai konten yang berpotensi masuk ke dalam kategori.BLOCK_SOME: Memblokir konten yang jelas diidentifikasi sebagai milik kategori.BLOCK_FEW: Hanya memblokir instance konten yang paling parah untuk kategori tersebut.BLOCK_NONE: Menonaktifkan semua filter untuk kategori yang ditentukan.
Setelan default
Jika Anda tidak memberikan konfigurasi kustom untuk suatu kategori, bantuan pengetahuan generatif proaktif akan menggunakan tingkat sensitivitas default berikut:
- Konten berbahaya:
BLOCK_FEW - Seksual vulgar:
BLOCK_SOME - Pelecehan:
BLOCK_SOME - Ujaran kebencian:
BLOCK_SOME
Mengonfigurasi filter keamanan
Konfigurasikan filter keamanan dalam profil percakapan Anda. Anda dapat menentukan tingkat sensitivitas untuk satu atau beberapa kategori RAI dengan menambahkan objek rai_settings ke konfigurasi fitur untuk KNOWLEDGE_ASSIST. Anda dapat menemukan setelan filter keamanan dalam array feature_configs untuk fitur saran KNOWLEDGE_ASSIST.
{
"name": "projects/PROJECT_ID/locations/LOCATION/conversationProfiles/PROFILE_ID",
"human_agent_assistant_config": {
"human_agent_suggestion_config": {
"feature_configs": [
{
"suggestion_feature": {
"type": "KNOWLEDGE_ASSIST"
},
"rai_settings": {
"rai_category_configs": [
{
"category": "DANGEROUS_CONTENT",
"sensitivity_level": "BLOCK_FEW"
},
{
"category": "HARASSMENT",
"sensitivity_level": "BLOCK_MOST"
}
]
}
}
]
}
}
}
Contoh konfigurasi
Contoh berikut mengilustrasikan cara meningkatkan atau menurunkan tingkat sensitivitas untuk satu kategori sesuai dengan kebutuhan bisnis Anda.
Contoh 1: Mengizinkan kueri layanan kesehatan sensitif
Sebagai penyedia layanan kesehatan, Anda ingin memastikan bahwa kueri tentang topik kesehatan mental sensitif tidak diblokir. Anda dapat menurunkan sensitivitas untuk kategori konten berbahaya, sebagai berikut.
"rai_settings": {
"rai_category_configs": [
{
"category": "DANGEROUS_CONTENT",
"sensitivity_level": "BLOCK_NONE"
}
]
}
Dengan setelan ini, bantuan pengetahuan generatif proaktif lebih cenderung memproses dan memberikan respons yang bermanfaat untuk kueri seperti Apa saja tanda peringatan bunuh diri?.
Contoh 2: Tingkatkan pengetatan
Jika bisnis Anda ingin lebih berhati-hati terhadap pelecehan, Anda dapat meningkatkan sensitivitas untuk kategori tersebut sambil membiarkan kategori lainnya pada tingkat default, sebagai berikut.
"rai_settings": {
"rai_category_configs": [
{
"category": "HARASSMENT",
"sensitivity_level": "BLOCK_MOST"
}
]
}