Model Armor può essere integrato direttamente in Vertex AI utilizzando le impostazioni di base o i modelli. Model Armor si integra con Vertex AI per filtrare sia le richieste inviate ai modelli Gemini sia le risposte ricevute. Ispeziona o blocca il traffico che viola le impostazioni di base.
Model Armor fornisce protezione per prompt e risposte
all'interno dell'API Gemini in Vertex AI per il metodo generateContent.
Devi abilitare Cloud Logging per ottenere visibilità sui risultati della sanificazione
di prompt e risposte.
Prima di iniziare
Concedi all'utente Model Armor l'autorizzazione per il account di servizio Vertex AI.
gcloud projects add-iam-policy-binding PROJECT_ID --member='serviceAccount:service-PROJECT_NUMBER@gcp-sa-aiplatform.iam.gserviceaccount.com' --role='roles/modelarmor.user'
Sostituisci quanto segue:
PROJECT_ID: il tuo ID progetto Google Cloud .PROJECT_NUMBER: il tuo Google Cloud numero di progetto.
Configura impostazioni di base
Utilizzi le impostazioni di base per configurare le soglie minime di rilevamento per i modelli Model Armor. Queste impostazioni verificano che tutti i modelli nuovi e modificati soddisfino i requisiti delle impostazioni di base.
Per abilitare l'integrazione di Model Armor e Vertex AI, puoi impostare le impostazioni di base solo a livello di progetto utilizzando l'API o la console. Google Cloud
Per configurare le impostazioni di base, vedi Configurare le impostazioni di base.
Per configurare le impostazioni del piano con l'integrazione di Vertex AI, esegui il seguente comando:
curl -X PATCH \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -d '{"filterConfig" : {}, "integratedServices": "AI_PLATFORM", "aiPlatformFloorSetting":{"inspect_only":true, "enableCloudLogging":true}}' \ "https://modelarmor.googleapis.com/v1/projects/PROJECT_ID/locations/global/floorSetting"
Sostituisci PROJECT_ID con l'ID del progetto per le impostazioni del piano.
Dopo aver configurato le impostazioni di base per attivare la sanificazione di Vertex AI,
Model Armor esegue la sanificazione di tutte le chiamate API generateContent agli endpoint Gemini del progetto utilizzando le impostazioni di filtro specificate.
Il seguente esempio di codice mostra come utilizzare il metodo generateContent.
curl -X POST -H "Content-Type: application/json" -H "Authorization: Bearer $(gcloud auth print-access-token)" "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/gemini-2.0-flash-001:generateContent" -d '{ "contents": [ { "role": "user", "parts": [ { "text": "" } ] } ] , "generationConfig": { "responseModalities": ["TEXT"] ,"temperature": 0.2 ,"maxOutputTokens": 1024 ,"topP": 0.8 } }'
Sostituisci quanto segue:
PROJECT_ID: il tuo ID progetto Google Cloud .LOCATION: la Google Cloud posizione dell'endpoint Gemini. Per le località supportate, consulta Località per l'API Model Armor.
Il seguente esempio di codice mostra la risposta del metodo generateContent.
{ "promptFeedback": { "blockReason": "MODEL_ARMOR", "blockReasonMessage": "Blocked by Floor Setting. The prompt violated Responsible AI Safety settings (Harassment, Dangerous), Prompt Injection and Jailbreak filters." }, "usageMetadata": { "trafficType": "ON_DEMAND" }, "modelVersion": "gemini-2.0-flash-001", "createTime": "2025-03-26T13:14:36.961184Z", "responseId": "vP3jZ6DVOqLKnvgPqZL-8Ao" }
Definisci il tipo di applicazione per le impostazioni di base
Per configurare la modalità di gestione dei rilevamenti da parte di Model Armor, imposta il
tipo di applicazione.
L'esempio seguente mostra la configurazione delle impostazioni di base con il
tipo di applicazione Inspect and block.
export FLOOR_SETTING='{ "filter_config": { "rai_settings": { "rai_filters": { "filter_type": "HATE_SPEECH", "confidence_level": "LOW_AND_ABOVE" }, "rai_filters": { "filter_type": "DANGEROUS", "confidence_level": "LOW_AND_ABOVE" }, "rai_filters": { "filter_type": "SEXUALLY_EXPLICIT", "confidence_level": "LOW_AND_ABOVE" }, "rai_filters": { "filter_type": "HARASSMENT", "confidence_level": "LOW_AND_ABOVE" } }, "sdpSettings": { "basicConfig": { "filterEnforcement": "ENABLED" } }, "piAndJailbreakFilterSettings": { "filterEnforcement": "ENABLED", "confidenceLevel": "LOW_AND_ABOVE" }, "maliciousUriFilterSettings": { "filterEnforcement": "ENABLED" } }, "integratedServices": [ "AI_PLATFORM" ], "aiPlatformFloorSetting": { "inspectAndBlock": true, "enableCloudLogging": true }, "enable_floor_setting_enforcement": "true" }' curl -X POST \ -d "$FLOOR_SETTING" \ -H "Content-Type: application/json" \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ "https://modelarmor.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/floorSetting"
Sostituisci quanto segue:
PROJECT_ID: l'ID del progetto per le impostazioni del piano.LOCATION: la posizione delle impostazioni di base.
Configura i modelli Model Armor
Model Armor può essere integrato anche con Vertex AI utilizzando i modelli Model Armor. I modelli consentono di configurare il modo in cui Model Armor filtra prompt e risposte e definiscono le configurazioni del filtro di sicurezza.
Devi prima creare i modelli e poi utilizzarli con il metodo generateContent di Gemini. Per saperne di più sui modelli,
vedi Crea e gestisci i modelli Model Armor.
Dopo aver configurato il modello Model Armor, trasmetti l'ID modello come parametro quando effettui una chiamata all'API Gemini utilizzando il metodo generateContent. Vertex AI indirizzerà la richiesta a Model Armor per l'elaborazione.
Il seguente esempio di codice mostra la richiesta al metodo generateContent.
curl -X POST -H "Content-Type: application/json" -H "Authorization: Bearer $(gcloud auth print-access-token)" "https://{LOCATION}-aiplatform.googleapis.com/v1/projects/{PROJECT_ID}/locations/{LOCATION}/publishers/google/models/gemini-2.0-flash-001:generateContent" -d '{ "contents": [ { "role": "user", "parts": [ { "text": "" } ] } ] , "generationConfig": { "responseModalities": ["TEXT"] ,"temperature": 0.2 ,"maxOutputTokens": 1024 ,"topP": 0.8 }, "model_armor_config": { "prompt_template_name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID", "response_template_name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID" } }'
Sostituisci quanto segue:
PROJECT_ID: l' Google Cloud ID progetto.LOCATION: la Google Cloud posizione dell'endpoint Gemini. Le località supportate sonous-central1,us-east4,us-west1eeurope-west4.TEMPLATE_ID: ID modello Model Armor.
Il seguente esempio di codice mostra la risposta del metodo generateContent.
{ "promptFeedback": { "blockReason": "MODEL_ARMOR", "blockReasonMessage": "Blocked by Floor Setting. The prompt violated Responsible AI Safety settings (Harassment, Dangerous), Prompt Injection and Jailbreak filters." }, "usageMetadata": { "trafficType": "ON_DEMAND" }, "modelVersion": "gemini-2.0-flash-001", "createTime": "2025-03-26T13:14:36.961184Z", "responseId": "vP3jZ6DVOqLKnvgPqZL-8Ao" }
Considerazioni
Quando integri Model Armor con Vertex AI, considera quanto segue:
- La redazione di Sensitive Data Protection per il modello di anonimizzazione non è supportata.
- La sanificazione di prompt e risposte che contengono documenti non è supportata.
Vertex AI salta il passaggio di sanificazione di Model Armor e continua a elaborare la richiesta nelle seguenti condizioni:
- Model Armor non è disponibile in una regione in cui è presente Vertex AI.
- Model Armor non è temporaneamente raggiungibile.
- Si verifica un errore in Model Armor.
Tutte queste istanze possono occasionalmente esporre prompt o risposte non selezionati perché la richiesta continua senza la sanificazione di prompt e risposte.