Gemini Enterprise Agent Platform dapat mencatat sampel permintaan dan respons untuk Gemini dan model partner yang didukung. Log disimpan ke tabel BigQuery untuk dilihat dan dianalisis. Selain itu, Agent Platform dapat membagikan log permintaan-respons untuk model AI Lanjutan tertentu kepada Partner MaaS tertentu untuk membantu Anda memenuhi kewajiban Anda kepada partner MaaS tersebut.
Halaman ini menjelaskan cara mengonfigurasi log permintaan-respons untuk model dasar dan model yang telah disesuaikan.
Metode API yang didukung untuk logging
Log permintaan-respons didukung untuk semua model Gemini yang menggunakan generateContent atau streamGenerateContent.
Model partner berikut yang menggunakan
rawPredict
atau
streamRawPredict
juga didukung:
- Anthropic Claude
Log permintaan-respons untuk model dasar
Anda dapat mengonfigurasi log permintaan-respons untuk model dasar menggunakan REST API atau Python SDK. Konfigurasi logging dapat memerlukan waktu beberapa menit untuk diterapkan.
Mengaktifkan logging permintaan-respons
Pilih salah satu tab berikut untuk mengetahui petunjuk cara mengaktifkan log permintaan-respons untuk model dasar.
Untuk model Anthropic, hanya REST yang didukung untuk konfigurasi logging. Aktifkan
konfigurasi logging melalui REST API dengan menetapkan penayang ke anthropic
dan menetapkan nama model ke salah satu
model Claude yang didukung.
Python SDK
Metode ini dapat digunakan untuk membuat atau memperbarui PublisherModelConfig.
# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
GenerativeModel,
)
PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"
vertexai.init(project=PROJECT_ID, location=LOCATION)
publisher_model = GenerativeModel("gemini-2.5-flash")
# Set logging configuration
publisher_model.set_request_response_logging_config(
enabled=True,
sampling_rate=1.0,
bigquery_destination="bq://PROJECT_ID.DATASET_NAME.TABLE_NAME",
enable_otel_logging=True
)
REST API
Buat atau perbarui PublisherModelConfig menggunakan setPublisherModelConfig:
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
- ENDPOINT_PREFIX: Region resource model yang diikuti dengan
-. Misalnya,us-central1-. Jika menggunakan endpoint global, biarkan kosong. Logging permintaan-respons didukung untuk semua region yang didukung oleh model. - PROJECT_ID: Project ID Anda.
- LOCATION: Region resource model.
Jika menggunakan endpoint global, masukkan
global. - PUBLISHER: Nama penayang. Misalnya,
google. - MODEL: Nama model dasar. Misalnya,
gemini-2.0-flash-001. - SAMPLING_RATE: Untuk mengurangi biaya penyimpanan, Anda dapat menetapkan angka antara 0 atau 1 untuk menentukan fraksi permintaan yang akan dicatat ke dalam log. Misalnya, nilai 1 mencatat semua permintaan ke dalam log, dan nilai 0,1 mencatat 10% permintaan ke dalam log.
- BQ_URI: URI tabel BigQuery yang akan digunakan untuk logging. Misalnya,
bq://PROJECT_ID.DATASET_NAME.TABLE_NAME. Jika Anda menggunakan endpoint global (LOCATIONditetapkan keglobal), Anda harus menentukan set data BigQuery yang ada, sepertibq://PROJECT_ID.DATASET_NAMEataubq://PROJECT_ID.DATASET_NAME.TABLE_NAME. Jika Anda menggunakan endpoint regional dan hanya menentukan project ID (bq://PROJECT_ID), set data akan dibuat dengan namapublishers_PUBLISHER_models_MODEL_ENDPOINT_ID, denganPUBLISHERdanMODELmengikuti aturan penamaan BigQuery. Jika Anda tidak menentukan nama tabel, tabel akan dibuat dengan namarequest_response_logging.
Metode HTTP dan URL:
POST https://ENDPOINT_PREFIXaiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig
Meminta isi JSON:
{
"publisherModelConfig": {
"loggingConfig": {
"enabled": true,
"samplingRate": SAMPLING_RATE,
"bigqueryDestination": {
"outputUri": "bq://BQ_URI"
},
"enableOtelLogging": true
}
}
}
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Simpan isi permintaan dalam file bernama request.json,
dan jalankan perintah berikut:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://ENDPOINT_PREFIXaiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"
PowerShell
Simpan isi permintaan dalam file bernama request.json,
dan jalankan perintah berikut:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://ENDPOINT_PREFIXaiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content
Anda akan menerima respons JSON yang mirip dengan yang berikut ini:
Mendapatkan konfigurasi logging
Dapatkan konfigurasi logging permintaan-respons untuk model dasar menggunakan REST API.
REST API
Dapatkan konfigurasi logging permintaan-respons menggunakan
fetchPublisherModelConfig:
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
- PROJECT_ID: Project ID Anda.
- LOCATION: Lokasi resource model.
- PUBLISHER: Nama penayang. Misalnya,
google. - MODEL: Nama model dasar. Misalnya,
gemini-2.0-flash-001.
Metode HTTP dan URL:
GET https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Jalankan perintah berikut:
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig"
PowerShell
Jalankan perintah berikut:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method GET `
-Headers $headers `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig" | Select-Object -Expand Content
Anda akan menerima respons JSON yang mirip dengan yang berikut ini:
Menonaktifkan logging
Nonaktifkan logging permintaan-respons untuk model dasar menggunakan REST API atau Python SDK.
Python SDK
# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
GenerativeModel,
)
PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"
vertexai.init(project=PROJECT_ID, location=LOCATION)
publisher_model = GenerativeModel("gemini-2.5-flash")
# Disable logging
publisher_model.set_request_response_logging_config(
enabled=False,
sampling_rate=1.0,
bigquery_destination="bq://PROJECT_ID.DATASET_NAME.TABLE_NAME"
)
REST API
Gunakan setPublisherModelConfig untuk menonaktifkan logging:
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
- PROJECT_ID: Project ID Anda.
- LOCATION: Lokasi resource model.
- PUBLISHER: Nama penayang. Misalnya,
google. - MODEL: Nama model dasar. Misalnya,
gemini-2.0-flash-001.
Metode HTTP dan URL:
POST https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig
Meminta isi JSON:
{
"publisherModelConfig": {
"loggingConfig": {
"enabled": false
}
}
}
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Simpan isi permintaan dalam file bernama request.json,
dan jalankan perintah berikut:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"
PowerShell
Simpan isi permintaan dalam file bernama request.json,
dan jalankan perintah berikut:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content
Anda akan menerima respons JSON yang mirip dengan yang berikut ini:
Log permintaan-respons untuk model yang telah disesuaikan
Anda dapat mengonfigurasi log permintaan-respons untuk model yang telah disesuaikan menggunakan REST API atau Python SDK.
Mengaktifkan log permintaan-respons
Pilih salah satu tab berikut untuk mengetahui petunjuk cara mengaktifkan log permintaan-respons untuk model yang telah disesuaikan.
Python SDK
Metode ini dapat digunakan untuk memperbarui konfigurasi logging permintaan-respons untuk endpoint.
# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
GenerativeModel,
)
PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"
vertexai.init(project=PROJECT_ID, location=LOCATION)
tuned_model = GenerativeModel(f"projects/{PROJECT_ID}/locations/{LOCATION}/endpoints/ENDPOINT_ID")
# Set logging configuration
tuned_model.set_request_response_logging_config(
enabled=True,
sampling_rate=1.0,
bigquery_destination=f"bq://{PROJECT_ID}.DATASET_NAME.TABLE_NAME",
enable_otel_logging=True,
)
REST API
Anda hanya dapat mengaktifkan logging permintaan-respons saat membuat endpoint menggunakan
projects.locations.endpoints.create
atau menerapkan patch endpoint yang ada menggunakan
projects.locations.endpoints.patch.
Permintaan dan respons dicatat ke dalam log di tingkat endpoint, sehingga permintaan yang dikirim ke model yang di-deploy pada endpoint yang sama akan dicatat ke dalam log.
Saat Anda
membuat atau menerapkan patch endpoint,
isi kolom predictRequestResponseLoggingConfig dari
Resource endpoint
dengan entri berikut:
enabled: tetapkan keTrueuntuk mengaktifkan logging permintaan-respons.samplingRate: Untuk mengurangi biaya penyimpanan, Anda dapat menetapkan angka antara 0 dan 1 untuk menentukan fraksi permintaan yang akan dicatat ke dalam log. Misalnya, nilai 1 mencatat semua permintaan ke dalam log, dan nilai 0,1 mencatat 10% permintaan ke dalam log.BigQueryDestination: tabel BigQuery yang akan digunakan untuk logging. Jika Anda hanya menentukan project ID, set data akan dibuat dengan namaENDPOINT_DISPLAYNAMEENDPOINT_ID, di manaENDPOINT_DISPLAY_NAMEmengikuti aturan penamaan BigQuery. Jika Anda tidak menentukan nama tabel, tabel akan dibuat dengan namarequest_response_logging.enableOtelLogging: tetapkan ketrueuntuk mengaktifkan logging OpenTelemetry (OTEL) selain logging permintaan-respons default.
Untuk melihat skema tabel BigQuery, lihat Skema tabel logging.
Berikut adalah contoh konfigurasi:
{
"predictRequestResponseLoggingConfig": {
"enabled": true,
"samplingRate": 0.5,
"bigqueryDestination": {
"outputUri": "bq://PROJECT_ID.DATASET_NAME.TABLE_NAME"
},
"enableOtelLogging": true
}
}
Mendapatkan konfigurasi logging
Dapatkan konfigurasi logging permintaan-respons untuk model yang telah disesuaikan menggunakan REST API.
REST API
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
- PROJECT_ID: Project ID Anda.
- LOCATION: Lokasi resource endpoint.
- MODEL: Nama model dasar. Misalnya,
gemini-2.0-flash-001. - ENDPOINT_ID: ID endpoint.
Metode HTTP dan URL:
GET https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/endpoints/ENDPOINT_ID
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Jalankan perintah berikut:
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/endpoints/ENDPOINT_ID"
PowerShell
Jalankan perintah berikut:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method GET `
-Headers $headers `
-Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/endpoints/ENDPOINT_ID" | Select-Object -Expand Content
Anda akan menerima respons JSON yang mirip dengan yang berikut ini:
Menonaktifkan konfigurasi logging
Nonaktifkan konfigurasi logging permintaan-respons untuk endpoint.
Python SDK
# Specify the preview version of GenerativeModel
import vertexai
from vertexai.preview.generative_models import(
GenerativeModel,
)
PROJECT_ID = "PROJECT_ID"
LOCATION = "LOCATION"
vertexai.init(project=PROJECT_ID, location=LOCATION)
tuned_model = GenerativeModel(f"projects/{PROJECT_ID}/locations/{LOCATION}/endpoints/ENDPOINT_ID")
# Disable logging
tuned_model.set_request_response_logging_config(
enabled=False,
sampling_rate=1.0,
bigquery_destination="bq://PROJECT_ID.DATASET_NAME.TABLE_NAME"
)
REST API
{
"predictRequestResponseLoggingConfig": {
"enabled": false
}
}
Skema tabel logging
Di BigQuery, log dicatat menggunakan skema berikut:
| Nama kolom | Jenis | Catatan |
|---|---|---|
| endpoint | STRING | Nama resource endpoint tempat model yang disesuaikan di-deploy. |
| deployed_model_id | STRING | ID model yang di-deploy untuk model yang disesuaikan yang di-deploy ke endpoint. |
| logging_time | TIMESTAMP | Waktu saat logging dilakukan. Ini adalah perkiraan waktu respons ditampilkan. |
| request_id | NUMERIC | ID permintaan bilangan bulat yang dibuat otomatis berdasarkan permintaan API. |
| request_payload | STRING | Disertakan untuk logging model partner dan kompatibilitas mundur dengan log permintaan-respons endpoint Agent Platform. |
| response_payload | STRING | Disertakan untuk logging model partner dan kompatibilitas mundur dengan log permintaan-respons endpoint Agent Platform. |
| model | STRING | Nama resource model. |
| model_version | STRING | Versi model. Ini sering kali merupakan "default" untuk model Gemini. |
| api_method | STRING | generateContent, streamGenerateContent, rawPredict, streamRawPredict |
| full_request | JSON | GenerateContentRequest lengkap. |
| full_response | JSON | GenerateContentResponse lengkap. |
| metadata | JSON | Metadata panggilan apa pun; berisi latensi permintaan. |
| otel_log | JSON | Log dalam format skema OpenTelemetry. Hanya tersedia jika otel_logging diaktifkan dalam konfigurasi logging. |
Perhatikan bahwa pasangan permintaan-respons yang lebih besar dari batas baris 10 MB write API BigQuery tidak akan dicatat.
Membagikan permintaan dan respons kepada partner MaaS
Untuk model AI Lanjutan tertentu, beberapa partner MaaS mewajibkan log perintah
dan respons dibagikan dengan cara yang kebal modifikasi kepada tim kepercayaan dan keamanan
mereka, sehingga mereka dapat memantau potensi penyalahgunaan. Misalnya, penggunaan
Anthropic Advanced AI diatur oleh Pasal F Persyaratan Spesifik Per Layanan Anthropic. Saat fitur
dataSharingEnabledProvider aktif, permintaan dan respons yang dicatat dalam log
berdasarkan Adendum Keamanan AI Lanjutan
akan dibagikan kepada Partner MaaS secara real time.
Berbagi log permintaan-respons yang kebal modifikasi dapat diaktifkan menggunakan
setPublisherModelConfig API
seperti yang dibahas di bagian berikut.
Model yang didukung
Tabel berikut mencantumkan partner dan model MaaS yang mendukung permintaan dan respons berbagi:
| Partner MaaS yang didukung | Model yang didukung |
|---|---|
| Anthropic |
|
Partner dan model MaaS harus cocok. Log permintaan-respons hanya dapat dibagikan kepada Partner MaaS yang memublikasikan model.
Prasyarat
Google harus menerima izin untuk Adendum Keamanan AI Lanjutan dalam project ini sebelum berbagi data dapat diaktifkan. Untuk mengetahui informasi selengkapnya tentang adendum, lihat Keamanan AI tingkat lanjut.
Anda tidak perlu mengaktifkan logging permintaan-respons untuk BigQuery agar dapat menggunakan berbagi log permintaan-respons.
Batasan
Project yang dilindungi Kontrol Layanan VPC dicegah untuk membagikan data dengan Partner MaaS secara default. Mengonfigurasi aturan egress Kontrol Layanan VPC tidak didukung. Untuk mengaktifkan berbagi data untuk project yang dilindungi Kontrol Layanan VPC, ajukan kasus dukungan.
Aktifkan berbagi data
Lakukan tindakan berikut:
REST API
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
-
ENDPOINT_PREFIX: awalan yang sesuai untuk lokasi endpoint model. Gunakan nilai berikut:
-
Untuk endpoint
global, gunakanaiplatform. -
Untuk endpoint multi-region seperti
usataueu, gunakanaiplatform.LOCATION.rep -
Untuk endpoint regional seperti
us-central1, gunakanLOCATION-aiplatform.
-
Untuk endpoint
- PROJECT_ID: Project ID Anda.
-
LOCATION: Lokasi endpoint model. Misalnya,
global,us,eu, atauus-central1. -
PUBLISHER: Nama penayang model, dalam huruf kecil. Contoh,
anthropic. -
MODEL: Nama model dasar. Contoh,
claude-fable-5. -
MAAS_PARTNER: Nama penayang model, dalam huruf besar. Partner MaaS harus berupa versi huruf besar
dari
MODEL, yang dijelaskan di atas. Contoh,ANTHROPIC.
Metode HTTP dan URL:
POST https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig
Meminta isi JSON:
{
"publisherModelConfig": {
"dataSharingEnabledProvider": "ANTHROPIC"
}
}
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Simpan isi permintaan dalam file bernama request.json,
dan jalankan perintah berikut:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"
PowerShell
Simpan isi permintaan dalam file bernama request.json,
dan jalankan perintah berikut:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content
Anda akan menerima kode status berhasil (2xx) dan respons kosong.
Mendapatkan konfigurasi berbagi
Lakukan tindakan berikut:
REST API
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
-
ENDPOINT_PREFIX: awalan yang sesuai untuk lokasi endpoint model. Gunakan nilai berikut:
-
Untuk endpoint
global, gunakanaiplatform. -
Untuk endpoint multi-region seperti
usataueu, gunakanaiplatform.LOCATION.rep -
Untuk endpoint regional seperti
us-central1, gunakanLOCATION-aiplatform.
-
Untuk endpoint
- PROJECT_ID: Project ID Anda.
-
LOCATION: Lokasi endpoint model. Misalnya,
global,us,eu, atauus-central1. -
PUBLISHER: Nama penayang model, dalam huruf kecil. Contoh,
anthropic. -
MODEL: Nama model dasar. Contoh,
claude-fable-5.
Metode HTTP dan URL:
GET https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Jalankan perintah berikut:
curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig"
PowerShell
Jalankan perintah berikut:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method GET `
-Headers $headers `
-Uri "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:fetchPublisherModelConfig" | Select-Object -Expand Content
Anda akan melihat respons JSON seperti berikut:
{
"loggingConfig": {},
"dataSharingEnabledProvider": "ANTHROPIC"
}
Nonaktifkan berbagi data
Lakukan tindakan berikut:
REST API
Sebelum menggunakan salah satu data permintaan, lakukan penggantian berikut:
-
ENDPOINT_PREFIX: awalan yang sesuai untuk lokasi endpoint model. Gunakan nilai berikut:
-
Untuk endpoint
global, gunakanaiplatform. -
Untuk endpoint multi-region seperti
usataueu, gunakanaiplatform.LOCATION.rep -
Untuk endpoint regional seperti
us-central1, gunakanLOCATION-aiplatform.
-
Untuk endpoint
- PROJECT_ID: Project ID Anda.
-
LOCATION: Lokasi endpoint model. Misalnya,
global,us,eu, atauus-central1. -
PUBLISHER: Nama penayang model, dalam huruf kecil. Contoh,
anthropic. -
MODEL: Nama model dasar. Contoh,
claude-fable-5.
Metode HTTP dan URL:
POST https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig
Meminta isi JSON:
{
"publisherModelConfig": {
"dataSharingEnabledProvider": "MODEL_PROVIDER_UNSPECIFIED"
}
}
Untuk mengirim permintaan Anda, pilih salah satu opsi berikut:
curl
Simpan isi permintaan dalam file bernama request.json,
dan jalankan perintah berikut:
curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json; charset=utf-8" \
-d @request.json \
"https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig"
PowerShell
Simpan isi permintaan dalam file bernama request.json,
dan jalankan perintah berikut:
$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }
Invoke-WebRequest `
-Method POST `
-Headers $headers `
-ContentType: "application/json; charset=utf-8" `
-InFile request.json `
-Uri "https://ENDPOINT_PREFIX.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/PUBLISHER/models/MODEL:setPublisherModelConfig" | Select-Object -Expand Content
Anda akan menerima kode status berhasil (2xx) dan respons kosong.
Mencegah permintaan berbagi data
Untuk mencegah berbagi log permintaan dan respons dengan partner MaaS, administrator project dapat melakukan salah satu hal berikut:
Terapkan batasan kustom Organization Policy Service: Buat dan terapkan batasan kustom Organization Policy Service di
aiplatform.googleapis.com/Endpointyang melarang penetapandataSharingEnabledProvideruntuk penyedia model partner mana pun. Untuk mengetahui informasi selengkapnya, lihat Menerapkan batasan kustom untuk mencegah berbagi data.Membuat perimeter Kontrol Layanan VPC: Buat perimeter layanan Kontrol Layanan VPC yang mencakup project dan
aiplatform.googleapis.comsebagai layanan yang dibatasi. Project yang dilindungi Kontrol Layanan VPC diblokir agar tidak membagikan data ke model partner secara default.Menonaktifkan akses ke model Model Garden Gemini Enterprise Agent Platform: Menonaktifkan akses ke model Model Garden yang mendukung berbagi data.
Terapkan hak istimewa terendah: Batasi izin
aiplatform.endpoints.setPublisherModelConfiguntuk mencegah pengguna yang tidak sah mengaktifkan logging atau berbagi log.
Menerapkan batasan kustom untuk mencegah berbagi data
Untuk membuat dan menerapkan batasan kustom Organization Policy Service yang mencegah berbagi log permintaan dan respons dengan penyedia model partner, lakukan hal berikut:
Buat file YAML batasan kustom bernama
prevent_data_sharing.yamlyang mirip dengan contoh berikut.name: organizations/ORGANIZATION_ID/customConstraints/custom.denyPartnerModelDataSharing resourceTypes: - aiplatform.googleapis.com/Endpoint methodTypes: - CREATE - UPDATE condition: "has(resource.publisherModelConfig.dataSharingEnabledProvider)" actionType: DENY displayName: Prevent partner model data sharing description: Prohibits enabling request and response log sharing with any partner model provider.Ganti
ORGANIZATION_IDdengan ID organisasi Google Cloud Anda.Buat batasan kustom menggunakan perintah
gcloud org-policies:gcloud org-policies set-custom-constraint prevent_data_sharing.yamlTerapkan kebijakan dengan membuat file penerapan kebijakan organisasi bernama
enforce_policy.yamlyang mirip dengan contoh berikut:name: organizations/ORGANIZATION_ID/policies/custom.denyPartnerModelDataSharing spec: rules: - enforce: trueTerapkan kebijakan organisasi:
gcloud org-policies set-policy enforce_policy.yaml
Langkah berikutnya
- Memperkirakan harga untuk logging prediksi online.
- Deploy model menggunakan konsol Google Cloud atau menggunakan Agent Platform API.
Pelajari cara membuat tabel BigQuery.
Untuk mengetahui informasi selengkapnya tentang kebijakan yang terkait dengan logging respons permintaan, lihat berikut ini: