Kebijakan SemanticCacheLookup

Kebijakan yang dapat diperluas

Halaman ini berlaku untuk Apigee dan Apigee hybrid.

Lihat dokumentasi Apigee Edge.

Kebijakan SemanticCacheLookup adalah kebijakan caching lanjutan yang dirancang untuk mengoptimalkan performa workload AI, terutama yang melibatkan Model Bahasa Besar (LLM).

Kebijakan ini menggunakan Text embeddings API Vertex AI untuk menghasilkan embedding dari teks dan Penelusuran Vektor untuk menemukan perintah serupa berdasarkan kemiripan semantik, bukan kecocokan persis.

Kebijakan SemanticCacheLookup mengurangi waktu respons untuk kueri berulang dan mengoptimalkan biaya dengan mengurangi volume panggilan ke LLM.

Kebijakan ini berfungsi bersama dengan kebijakan SemanticCachePopulate.

Kebijakan ini adalah Kebijakan yang dapat diperluas dan penggunaan kebijakan ini mungkin memiliki implikasi biaya atau pemanfaatan, bergantung pada lisensi Apigee Anda. Untuk mengetahui informasi tentang jenis kebijakan dan implikasi penggunaan, lihat Jenis kebijakan.

Sebelum memulai

Sebelum Anda menggunakan kebijakan SemanticCacheLookup, selesaikan tugas-tugas berikut:

  • Buat project Vertex AI.
  • Buat indeks Penelusuran Vektor.
  • Membuat endpoint Vertex AI untuk indeks.
  • Buat kebijakan SemanticCachePopulate.

Untuk mengetahui informasi selengkapnya tentang cara menyelesaikan tugas ini, lihat Mulai menggunakan kebijakan Semantic Caching.

Peran yang diperlukan

Untuk mendapatkan izin yang diperlukan untuk menerapkan dan menggunakan kebijakan SemanticCacheLookup, minta administrator untuk memberi Anda peran IAM AI Platform User (roles/aiplatform.user) di akun layanan yang Anda gunakan untuk men-deploy proxy Apigee. Untuk mengetahui informasi selengkapnya tentang cara memberikan peran, lihat Mengelola akses ke project, folder, dan organisasi.

Anda mungkin juga bisa mendapatkan izin yang diperlukan melalui peran khusus atau peran bawaan lainnya.

Mengaktifkan API

Aktifkan Compute Engine, Vertex AI, dan Cloud Storage API, jika ada yang belum diaktifkan.

Peran yang diperlukan untuk mengaktifkan API

Untuk mengaktifkan API, Anda memerlukan izin serviceusage.services.enable. Jika Anda membuat project, kemungkinan Anda sudah memiliki izin ini melalui peran Pemilik (roles/owner). Jika tidak, Anda bisa mendapatkan izin ini melalui peran Admin Penggunaan Layanan (roles/serviceusage.serviceUsageAdmin). Pelajari cara memberikan peran.

Aktifkan API

Elemen <SemanticCacheLookup>

Menentukan kebijakan SemanticCacheLookup.

Nilai Default Lihat tab Kebijakan Default di bawah
Wajib? Wajib
Jenis Objek kompleks
Elemen Induk T/A
Elemen Turunan <DisplayName>
<IgnoreUnresolvedVariables>
<UserPromptSource>
<Embeddings>
<SimilaritySearch>

Elemen <SemanticCacheLookup> menggunakan sintaksis berikut:

Sintaksis

Elemen <SemanticCacheLookup> menggunakan sintaksis berikut:

<SemanticCacheLookup async="false" continueOnError="false" enabled="true" name="SCL-lookup">
  <DisplayName>SCL-lookup</DisplayName>
  <IgnoreUnresolvedVariables>false</IgnoreUnresolvedVariables>
  <UserPromptSource>{jsonPath('$.contents[-1].parts[-1].text',request.content,true)}</UserPromptSource>
  <Embeddings>
    <VertexAI>
      <URL>https://{LOCATION}-aiplatform.googleapis.com/v1/projects/{PROJECT_ID}/locations/{LOCATION}/publishers/google/models/{MODEL_ID}:predict</URL>
    </VertexAI>
  </Embeddings>
  <SimilaritySearch>
    <VertexAI>
      <URL>https://{PUBLIC_DOMAIN_NAME}/v1/projects/{PROJECT_ID}/locations/{LOCATION}/indexEndpoints/{INDEX_ENDPOINT_ID}:findNeighbors</URL>
      <DeployedIndexID>{DEPLOYED_INDEX_ID}</DeployedIndexID>
      <Threshold>0.95</Threshold>
      <DistanceMeasureType>DOT_PRODUCT_DISTANCE</DistanceMeasureType>
    </VertexAI>
  </SimilaritySearch>
</SemanticCacheLookup>

Kebijakan Default

Contoh berikut menunjukkan setelan default saat Anda menambahkan kebijakan SemanticCacheLookup ke alur di UI Apigee:

<SemanticCacheLookup async="false" continueOnError="false"enabled="true" name="SCL-lookup">
  <DisplayName>SCL-lookup</DisplayName>
  <IgnoreUnresolvedVariables>false</IgnoreUnresolvedVariables>
  <UserPromptSource>{jsonPath('$.contents[-1].parts[-1].text',request.content,true)}</UserPromptSource>
  <Embeddings>
    <VertexAI>
      <URL>https://{LOCATION}-aiplatform.googleapis.com/v1/projects/{PROJECT_ID}/locations/{LOCATION}/publishers/google/models/{MODEL_ID}:predict
      </URL>
    </VertexAI>
  </Embeddings>
  <SimilaritySearch>
    <VertexAI>
      <URL>https://{PUBLIC_DOMAIN_NAME}/v1/projects/{PROJECT_ID}/locations/{LOCATION}/indexEndpoints/{INDEX_ENDPOINT_ID}:findNeighbors</URL>
      <Threshold>0.9</Threshold>
      <DeployedIndexID>{DEPLOYED_INDEX_ID}</DeployedIndexID>
      <DistanceMeasureType>DOT_PRODUCT_DISTANCE</DistanceMeasureType>
    </VertexAI>
  </SimilaritySearch>
</SemanticCacheLookup>

Saat Anda menyisipkan kebijakan SemanticCacheLookup baru di UI Apigee, template berisi stub untuk semua kemungkinan operasi. Lihat informasi di bawah tentang elemen yang diperlukan.

Elemen ini memiliki atribut berikut yang umum untuk semua kebijakan:

Atribut Default Wajib? Deskripsi
name T/A Wajib

Nama internal kebijakan. Nilai atribut name dapat berisi huruf, angka, spasi, tanda hubung, garis bawah, dan titik. Nilai ini tidak boleh melebihi 255 karakter.

Secara opsional, gunakan elemen <DisplayName> untuk memberi label pada kebijakan di editor proxy UI pengelolaan dengan nama bahasa alami yang berbeda.

continueOnError false Opsional Tetapkan ke false untuk menampilkan error saat kebijakan gagal. Perilaku ini wajar terjadi untuk sebagian besar kebijakan. Tetapkan ke true agar eksekusi alur berlanjut meskipun setelah kebijakan gagal. Lihat juga:
enabled benar Opsional Tetapkan ke true untuk menerapkan kebijakan. Tetapkan ke false untuk menonaktifkan kebijakan. Kebijakan tidak akan diterapkan meskipun tetap terlampir ke alur.
async   false Tidak digunakan lagi Atribut ini tidak digunakan lagi.

Tabel berikut memberikan deskripsi umum elemen turunan <SemanticCacheLookup>:

Elemen Turunan Wajib? Deskripsi
<DisplayName> Opsional Nama kebijakan.

<IgnoreUnresolvedVariables> Opsional Menentukan apakah pemrosesan akan berhenti saat variabel tidak terselesaikan. Setel ke true untuk mengabaikan variabel yang belum terselesaikan dan melanjutkan pemrosesan.
<UserPromptSource> Opsional Lokasi payload untuk teks perintah pengguna yang akan diekstrak. Hanya nilai teks string yang didukung.

Kolom ini mendukung sintaksis template pesan Apigee, termasuk penggunaan variabel atau fungsi JSON Path.

Contoh:

{jsonPath('$.contents[-1].parts[-1].text',request.content,true)}

<Embeddings> Wajib Elemen yang berisi informasi yang diperlukan untuk membuat penyematan.
<SimilaritySearch> Wajib Elemen yang berisi informasi yang diperlukan untuk melakukan penelusuran kemiripan.

Untuk mengetahui informasi selengkapnya, lihat Membuat kueri indeks publik untuk mendapatkan tetangga terdekat.

Referensi elemen turunan

Bagian ini menjelaskan elemen turunan dari <SemanticCacheLookup>.

<DisplayName>

Gunakan selain atribut name untuk memberi label pada kebijakan di editor proxy UI pengelolaan dengan nama yang berbeda dan lebih terdengar alami.

Elemen <DisplayName> umum untuk semua kebijakan.

Nilai Default T/A
Wajib? Opsional. Jika Anda menghilangkan <DisplayName>, nilai atribut name kebijakan akan digunakan.
Jenis String
Elemen Induk <PolicyElement>
Elemen Turunan Tidak ada

Elemen <DisplayName> menggunakan sintaksis berikut:

Sintaks

<PolicyElement>
  <DisplayName>POLICY_DISPLAY_NAME</DisplayName>
  ...
</PolicyElement>

Contoh

<PolicyElement>
  <DisplayName>My Validation Policy</DisplayName>
</PolicyElement>

Elemen <DisplayName> tidak memiliki atribut atau elemen turunan.

<IgnoreUnresolvedVariables>

Menentukan apakah pemrosesan berhenti saat variabel tidak terselesaikan. Tetapkan ke true untuk mengabaikan variabel yang belum terselesaikan dan melanjutkan pemrosesan.

IgnoreUnresolvedVariables tidak berlaku jika <DefaultValue> diberikan.

Nilai Default Salah
Wajib? Opsional
Jenis Boolean
Elemen Induk <SemanticCacheLookup>
Elemen Turunan Tidak ada

<UserPromptSource>

Lokasi payload untuk teks perintah pengguna yang akan diekstrak. Hanya nilai teks string yang didukung.

Kolom ini mendukung sintaksis template pesan Apigee, termasuk penggunaan variabel atau fungsi JSON Path.

Contoh:

{jsonPath('$.contents[-1].parts[-1].text',request.content,true)}
Nilai Default {jsonPath('$.contents[-1].parts[-1].text',request.content,true)}
Wajib? Opsional
Jenis String
Elemen Induk <SemanticCacheLookup>
Elemen Turunan Tidak ada

<Embeddings>

Elemen ini berisi informasi yang diperlukan untuk membuat embedding teks.

Nilai Default T/A
Wajib? Opsional
Jenis String
Elemen Induk <SemanticCacheLookup>
Elemen Turunan <VertexAI>

Elemen <Embeddings> menggunakan sintaksis berikut:

<Embeddings>
  <VertexAI>
    <URL>https://{LOCATION}-aiplatform.googleapis.com/v1/projects/{PROJECT_ID}/locations/{LOCATION}/publishers/google/models/{MODEL_ID}:predict</URL>
  </VertexAI>
</Embeddings>

<VertexAI> (turunan dari <Embeddings>)

Berisi elemen <URL> untuk atribut khusus Vertex AI.

Nilai Default T/A
Wajib? Wajib
Jenis String
Elemen Induk <Embeddings>
Elemen Turunan <URL>

Elemen VertexAI menggunakan sintaksis berikut:

<VertexAI>
  <URL>https://{LOCATION}-aiplatform.googleapis.com/v1/projects/{PROJECT_ID}/locations/{LOCATION}/publishers/google/models/{MODEL_ID}:predict</URL>
</VertexAI>

<URL> (turunan dari <VertexAI>)

URL yang digunakan untuk membuat embedding teks. Lihat Model yang didukung untuk mengetahui daftar model yang menyediakan embedding teks untuk kebijakan SemanticCacheLookup.

Nilai Default T/A
Wajib? Wajib
Jenis String
Elemen Induk <VertexAI>
Elemen Turunan Tidak ada

Elemen URL menggunakan sintaksis berikut:

<URL>https://{LOCATION}-aiplatform.googleapis.com/v1/projects/{PROJECT_ID}/locations/{LOCATION}/publishers/google/models/{MODEL_ID}:predict</URL>

Elemen URL mendukung penggunaan template URL. Jika Anda ingin, berikan variabel dalam elemen ini untuk menyimpan nilai URL, seperti yang ditunjukkan dalam contoh berikut:

<URL>https://{URL_VARIABLE}</URL>

<SimilaritySearch>

Elemen ini berisi informasi yang diperlukan untuk melakukan penelusuran kemiripan.

Penelusuran kemiripan dapat dijalankan terhadap indeks Penelusuran Vektor yang di-deploy di endpoint publik atau endpoint pribadi (Private Service Connect). Anda harus menyediakan tepat satu transportasi berikut dalam elemen <VertexAI>:

  • <URL>—untuk endpoint publik, melalui REST (:findNeighbors).
  • <PrivateServiceConnect>—untuk endpoint pribadi, melalui gRPC. Endpoint indeks yang di-deploy secara pribadi (Private Service Connect) hanya menerima gRPC.

Untuk mengetahui informasi selengkapnya, lihat Membuat kueri indeks publik untuk mendapatkan nearest neighbor dan Caching semantik dengan endpoint pribadi (Private Service Connect).

Nilai Default T/A
Wajib? Wajib
Jenis String
Elemen Induk <SemanticCacheLookup>
Elemen Turunan <VertexAI>

Elemen <SimilaritySearch> menggunakan sintaksis berikut.

Endpoint publik (REST):

<SimilaritySearch>
  <VertexAI>
    <URL>https://{PUBLIC_DOMAIN_NAME}/v1/projects/{PROJECT_ID}/locations/{LOCATION}/indexEndpoints/{INDEX_ENDPOINT_ID}:findNeighbors</URL>
    <Threshold>0.9</Threshold>
    <DeployedIndexID>{DEPLOYED_INDEX_ID}</DeployedIndexID>
    <DistanceMeasureType>DOT_PRODUCT_DISTANCE</DistanceMeasureType>
  </VertexAI>
</SimilaritySearch>

Endpoint pribadi (Private Service Connect, gRPC):

<SimilaritySearch>
  <VertexAI>
    <PrivateServiceConnect>
      <GrpcEndpoint>grpc://{TARGET_HOST}:10000</GrpcEndpoint>
    </PrivateServiceConnect>
    <Threshold>0.9</Threshold>
    <DeployedIndexID>{DEPLOYED_INDEX_ID}</DeployedIndexID>
  </VertexAI>
</SimilaritySearch>

<VertexAI> (turunan dari <SimilaritySearch>)

Berisi atribut khusus Vertex AI yang digunakan untuk melakukan penelusuran kemiripan. Sediakan tepat satu transpor berikut: elemen <URL> (untuk endpoint publik, melalui REST) atau elemen <PrivateServiceConnect> (untuk endpoint pribadi, melalui gRPC).

Nilai Default T/A
Wajib? Wajib
Jenis String
Elemen Induk <SimilaritySearch>
Elemen Turunan <URL>

Untuk endpoint publik, elemen VertexAI menggunakan sintaksis berikut:

<VertexAI>
  <URL>https://{PUBLIC_DOMAIN_NAME}/v1/projects/{PROJECT_ID}/locations/{LOCATION}/indexEndpoints/{INDEX_ENDPOINT_ID}:findNeighbors</URL>
  <Threshold>0.9</Threshold>
  <DeployedIndexID>{DEPLOYED_INDEX_ID}</DeployedIndexID>
  <DistanceMeasureType>DOT_PRODUCT_DISTANCE</DistanceMeasureType>
</VertexAI>

Untuk endpoint pribadi (Private Service Connect), elemen VertexAI menggunakan sintaksis berikut:

<VertexAI>
  <PrivateServiceConnect>
    <GrpcEndpoint>grpc://{TARGET_HOST}:10000</GrpcEndpoint>
  </PrivateServiceConnect>
  <Threshold>0.9</Threshold>
  <DeployedIndexID>{DEPLOYED_INDEX_ID}</DeployedIndexID>
</VertexAI>

Tabel berikut memberikan deskripsi tingkat tinggi tentang elemen turunan <VertexAI>.

Elemen Turunan Wajib? Deskripsi
<URL> Wajib (berikan <URL> atau <PrivateServiceConnect>) String

URL yang digunakan untuk melakukan penelusuran kemiripan terhadap endpoint indeks Penelusuran Vektor publik, melalui REST (:findNeighbors). Titik data yang paling cocok, berdasarkan nilai minimum kesamaan, adalah satu-satunya titik data yang digunakan.

Elemen URL mendukung penggunaan template URL. Jika Anda ingin, berikan variabel dalam elemen ini untuk menyimpan nilai URL, seperti yang ditunjukkan dalam contoh berikut:

<URL>https://{URL_VARIABLE}</URL>

<PrivateServiceConnect> Wajib (berikan <URL> atau <PrivateServiceConnect>) Objek kompleks

Berisi informasi koneksi yang digunakan untuk melakukan penelusuran kemiripan terhadap indeks Penelusuran Vektor pribadi yang di-deploy di endpoint Private Service Connect. Endpoint indeks yang di-deploy pribadi hanya menerima gRPC.

Elemen ini berisi satu elemen turunan, <GrpcEndpoint>:

<PrivateServiceConnect>
  <GrpcEndpoint>grpc://{TARGET_HOST}:10000</GrpcEndpoint>
</PrivateServiceConnect>

Elemen <GrpcEndpoint> menentukan alamat gRPC endpoint pribadi. Aturan berikut berlaku:

  • Formatnya adalah grpc://TARGET_HOST:PORT. Skema harus grpc://; grpcs:// (TLS) tidak didukung dalam versi ini. TARGET_HOST adalah alamat IP lampiran endpoint atau data DNS pribadi di zona Cloud DNS yang di-peering.
  • Port-nya adalah 10000 untuk endpoint bidang data Penelusuran Vektor Private Service Connect.
  • Hop gRPC berupa teks biasa dan tidak diautentikasi; hop ini diamankan oleh isolasi jaringan.

Untuk mengetahui informasi selengkapnya, lihat Caching semantik dengan endpoint pribadi (Private Service Connect).

<Threshold> Opsional String

Nilai yang harus dicapai oleh tetangga terdekat agar dihitung sebagai kecocokan. <DistanceMeasureType> menetapkan arah perbandingan.

Nilai defaultnya adalah 0,9, yang sesuai dengan DOT_PRODUCT_DISTANCE.

Lihat Memilih nilai minimum untuk ukuran jarak.

<DeployedIndexID> Wajib String

ID indeks yang di-deploy di endpoint indeks yang digunakan untuk caching semantik.

<DistanceMeasureType> Opsional String

Ukuran jarak yang digunakan untuk membuat indeks Penelusuran Vektor Vertex AI Anda. Menetapkan arah perbandingan <Threshold>.

Nilai yang valid adalah DOT_PRODUCT_DISTANCE, COSINE_DISTANCE, SQUARED_L2_DISTANCE, dan L1_DISTANCE, yang cocok persis. Nilai lainnya akan menyebabkan deployment gagal. Untuk mengetahui apa yang dihitung oleh setiap ukuran, lihat Parameter konfigurasi indeks.

Nilai defaultnya adalah DOT_PRODUCT_DISTANCE.

Lihat Memilih nilai minimum untuk ukuran jarak Anda.

Memilih nilai minimum untuk ukuran jarak

Ukuran yang digunakan untuk membuat indeks Anda menentukan arah perbandingan <Threshold>: perkalian titik adalah kesamaan, sehingga nilai yang lebih besar berarti kecocokan yang lebih dekat, sedangkan tiga lainnya adalah jarak, dengan nilai yang lebih kecil. Tetapkan <DistanceMeasureType> agar sesuai dengan indeks Anda, lalu sesuaikan nilai minimum untuk ukuran tersebut.

Pengukuran jarak Nilai minimum cache
DOT_PRODUCT_DISTANCE (default) value >= threshold
COSINE_DISTANCE value <= threshold
SQUARED_L2_DISTANCE value <= threshold
L1_DISTANCE value <= threshold

Untuk menemukan ukuran yang digunakan untuk membuat indeks, jalankan gcloud ai indexes describe INDEX_ID --region=REGION dan baca kolom distanceMeasureType. Untuk mengonfirmasi bahwa kebijakan telah menerapkannya, kirim permintaan yang sama dua kali dan periksa semanticcache.lookup.policy_name.measure_type dan semanticcache.lookup.policy_name.nearest_neighbor_measure dalam sesi debug.

Variabel alur

Flow variable mengonfigurasi perilaku runtime dinamis untuk kebijakan dan flow, berdasarkan header HTTP atau konten pesan, atau konteks yang tersedia dalam Flow. Untuk mengetahui informasi selengkapnya tentang variabel flow, lihat Referensi variabel flow.

Kebijakan ini menyediakan kumpulan variabel flow hanya baca berikut selama eksekusi. Anda dapat menggunakan flow variable ini dengan kebijakan DataCapture untuk membuat laporan analisis kustom. Untuk mengetahui informasi selengkapnya, lihat Mengumpulkan data pelanggan dengan kebijakan Pengambilan Data.

Nama variabel Deskripsi
request.content Berisi konten lengkap permintaan API yang masuk.
request.url Berisi URL permintaan API masuk.
SemanticCacheLookup.policy_name.user_prompt Berisi komponen spesifik yang diekstrak dari perintah permintaan, yang digunakan untuk membuat embedding atau melakukan penelusuran kemiripan.
SemanticCacheLookup.policy_name.embeddings_request Berisi payload permintaan yang dikirim ke Vertex AI Embeddings API untuk membuat embedding teks untuk teks input.
SemanticCacheLookup.policy_name.embeddings_response Berisi respons dari Vertex AI Embeddings API, yang mencakup embedding teks yang dihasilkan.
SemanticCacheLookup.policy_name.dense_embeddings Berisi nilai embedding numerik aktual yang dihasilkan oleh Vertex AI Embeddings API.
SemanticCacheLookup.policy_name.is_nearest_neighbor_hit Menentukan apakah tetangga terdekat ditemukan dalam database vektor untuk permintaan tertentu dan titik data memenuhi nilai minimum kesamaan.
SemanticCacheLookup.policy_name.cache_hit Menentukan apakah respons ditemukan di cache semantik.
SemanticCacheLookup.policy_name.cached_llm_response Berisi respons yang diambil dari cache semantik (jika cache ditemukan).
semanticcache.lookup.policy_name.nearest_neighbor_measure Berisi nilai mentah yang ditampilkan indeks Penelusuran Vektor untuk tetangga terdekat. Ditetapkan pada hit dan miss setiap kali tetangga ditampilkan.
semanticcache.lookup.policy_name.measure_type Berisi ukuran jarak yang diterapkan kebijakan, termasuk saat kebijakan kembali ke default. Ditetapkan pada hit dan miss setiap kali tetangga ditampilkan.

Referensi error

Bagian ini menjelaskan kode kesalahan dan pesan error yang ditampilkan Apigee serta variabel kesalahan yang ditetapkan Apigee, khusus untuk kebijakan <SemanticCacheLookup>. Informasi ini penting untuk diketahui jika Anda mengembangkan aturan kesalahan untuk menangani kesalahan. Untuk mempelajari lebih lanjut, lihat Yang perlu Anda ketahui tentang error kebijakan dan Menangani kesalahan.

Error runtime

Error ini terjadi saat kebijakan dijalankan.

Kode error Status HTTP Penyebab
steps.semanticcache.lookup.MessageTemplateExtractionFailed 400 Gagal mengekstrak data dari permintaan menggunakan ekspresi Jalur JSON.
steps.semanticcache.lookup.FailedToExtractUserPrompt 500 Tidak dapat mengekstrak perintah pengguna dari permintaan API.
steps.semanticcache.lookup.EmbeddingsServiceUnavailable 400 Layanan Vertex AI Embeddings saat ini tidak tersedia.
steps.semanticcache.lookup.EmbeddingsAPIFailed 400 Layanan Vertex AI Embeddings gagal.
steps.semanticcache.lookup.VectorSearchServiceUnavailable 400 Layanan Vertex AI Vector Search saat ini tidak tersedia.
steps.semanticcache.lookup.VectorSearchAPIFailed 400 Layanan Vertex AI Vector Search gagal.
steps.semanticcache.lookup.AuthenticationFailure 500 Akun layanan tidak memiliki izin yang diperlukan.
steps.semanticcache.lookup.InternalError 500 Terjadi error yang tidak terduga dalam kebijakan SemanticCacheLookup.
steps.semanticcache.lookup.CalloutError 500 Panggilan layanan Vertex AI gagal.

Error saat deployment

Error ini terjadi saat Anda men-deploy proxy yang berisi kebijakan ini.

Nama error Penyebab
The Embeddings/VertexAI element is required. Terjadi jika elemen <VertexAI> di <Embeddings> kosong.
The SimilaritySearch/VertexAI element is required. Terjadi jika elemen <VertexAI> di <SimilaritySearch> kosong.
Embeddings/VertexAI cannot have both URL and PrivateServiceConnect elements. Terjadi jika elemen <URL> dan <PrivateServiceConnect> di <Embeddings> ditentukan.
SimilaritySearch/VertexAI cannot have both URL and PrivateServiceConnect elements. Terjadi jika elemen <URL> dan <PrivateServiceConnect> dalam <SimilaritySearch> ditentukan.
Embeddings/VertexAI/URL or Embeddings/PrivateServiceConnect/GrpcEndpoint element is required. Terjadi jika elemen <URL> maupun elemen <GrpcEndpoint> di <Embeddings> tidak ditentukan.
SimilaritySearch/VertexAI/URL or SimilaritySearch/PrivateServiceConnect/GrpcEndpoint element is required. Terjadi jika elemen <URL> maupun elemen <GrpcEndpoint> di <SimilaritySearch> tidak ditentukan.
The Embeddings/VertexAI/PrivateServiceConnect element is not supported. Use URL instead. Terjadi jika elemen <PrivateServiceConnect> digunakan di <Embeddings>.
Embeddings URL {url} is invalid. Terjadi jika elemen <URL> di <Embeddings> kosong atau tidak valid.
The SimilaritySearch URL {url} is invalid. Terjadi jika elemen <URL> di <SimilaritySearch> kosong atau tidak valid.
The scheme {http-scheme} of Embeddings URL {url} must be one of http, https. Terjadi jika skema http elemen <URL> Embeddings tidak valid.
The scheme {http-scheme} of SimilaritySearch URL {url} must be one of http, https. Terjadi jika skema http elemen <URL> SimilaritySearch tidak valid.
The SimilaritySearch /VertexAI/PrivateServiceConnect/GrpcEndpoint {grpc-endpoint} must be in the format "grpc://TARGET_HOST:PORT". Terjadi jika elemen <GrpcEndpoint> di <SimilaritySearch> tidak dalam format grpc://TARGET_HOST:PORT.
The scheme {grpc-scheme} of SimilaritySearch /VertexAI/PrivateServiceConnect/GrpcEndpoint {grpc-endpoint} must be "grpc". Terjadi jika skema grpc elemen <GrpcEndpoint> SimilaritySearch tidak valid.
SimilaritySearch/Threshold element must not be NaN. Terjadi jika elemen <Threshold> di <SimilaritySearch> adalah NaN. Infinity dan -Infinity diizinkan.
Invalid DistanceMeasureType {value}. Supported values are DOT_PRODUCT_DISTANCE, COSINE_DISTANCE, SQUARED_L2_DISTANCE and L1_DISTANCE Terjadi jika elemen <DistanceMeasureType> di <SimilaritySearch> bukan salah satu dari empat nilai yang didukung. Pencocokan bersifat persis. Lihat Parameter konfigurasi indeks.
SimilaritySearch/DeployedIndexID element is required. Terjadi jika elemen <DeployedIndexID> di <SimilaritySearch> kosong.
SimilaritySearch/DeployedIndexID element must not contain spaces. Terjadi jika elemen <DeployedIndexID> di <SimilaritySearch> berisi spasi.

Variabel kesalahan

Kebijakan ini menetapkan variabel ini saat memicu error saat runtime. Untuk mengetahui informasi selengkapnya, lihat Hal yang perlu Anda ketahui tentang error kebijakan.

Variabel Di mana Contoh
fault.name="FAULT_NAME" FAULT_NAME adalah nama kesalahan, seperti yang tercantum dalam tabel Error runtime di atas. Nama kesalahan adalah bagian terakhir dari kode kesalahan. fault.name Matches "UnresolvedVariable"
semanticcachelookup.POLICY_NAME.failed POLICY_NAME adalah nama kebijakan yang ditentukan pengguna yang menyebabkan kesalahan. semanticcachelookup.SC-lookup.failed = true

Contoh respons error

{
  "fault": {
    "faultstring": "SemanticCacheLookup[SC-lookup]: unable to resolve variable [variable_name]",
    "detail": {
      "errorcode": "steps.semanticcachelookup.UnresolvedVariable"
    }
  }
}

Contoh aturan kesalahan

<FaultRule name="SemanticCacheLookup Faults">
    <Step>
        <Name>SCL-CustomSetVariableErrorResponse</Name>
        <Condition>(fault.name = "SetVariableFailed")</Condition>
    </Step>
    <Condition>(semanticcachelookup.failed = true)</Condition>
</FaultRule>

Skema

Setiap jenis kebijakan ditentukan oleh skema XML (.xsd). Sebagai referensi, skema kebijakan tersedia di GitHub.