La plate-forme Gemini Enterprise Agent inclut un classificateur de sécurité qui filtre les requêtes envoyées à tous les modèles Anthropic hébergés susceptibles de contenir des images incluant du contenu pédopornographique. Le classificateur de sécurité de la plate-forme Gemini Enterprise Agent pour les contenus pédopornographiques suspects est distinct des filtres Fiabilité et sécurité fournis directement avec les modèles Anthropic.
Ce document explique quelles parties de la requête et de la réponse sont filtrées par le classificateur de sécurité CSAM suspect et ce qui se passe lorsque le classificateur bloque une requête.
Les filtres de sécurité et de contenu agissent comme une barrière pour empêcher la génération de résultats nuisibles, mais n'influencent pas directement le comportement du modèle. Pour en savoir plus sur la directionnalité du modèle, consultez Instructions système pour la sécurité.
Requêtes non sécurisées
Le classificateur de contenu suspecté de pédopornographie ne filtre que les images dans les requêtes envoyées aux modèles Anthropic sur Gemini Enterprise Agent Platform. Il ne filtre pas les sorties du modèle.
Les requêtes qui déclenchent le classificateur de contenu suspecté de CSAM sont bloquées et renvoient un code d'état HTTP 200 avec le message suivant :
{
"promptFeedback": {
"blockReason": "PROHIBTED_CONTENT"
}
}
Si la requête est bloquée par le classificateur, le flux de requêtes est annulé et le message suivant est renvoyé :
"event": "vertex-block-event",
"data": {"promptFeedback": {"blockReason": "PROHIBITED_CONTENT"}}
Disponibilité selon l'emplacement
Le classificateur de contenu suspecté d'être de l'exploitation et des abus sexuels sur mineurs est disponible dans toutes les régions compatibles.