Pour identifier les images générées ou modifiées par l'IA à partir de modèles Google et tiers, vous pouvez utiliser l'API AI Content Detection. Ce document explique le fonctionnement de l'API, ses limites et comment demander l'accès.
Fonctionnement
Pour utiliser l'API, envoyez une charge utile d'image au point de terminaison Gemini Enterprise Agent Platform à l'aide d'un appel d'API REST. Les formats d'image acceptés sont les suivants :
- JPEG
- PNG
- WebP
Traitement…
L'API traite la charge utile à l'aide de modèles de machine learning qui analysent les artefacts au niveau des pixels, les schémas de bruit et les anomalies spectrales. La réponse regroupe les résultats des modèles.
Conservation des données
L'API ne stocke ni ne conserve les images traitées.
Demander l'accès
L'API AI Content Detection est en version Preview privée. Pour demander l'accès au point de terminaison, remplissez le formulaire de demande.
Avis de non-responsabilité et limites
L'API fournit une estimation probabiliste et ne garantit pas une identification définitive. L'utilisation du service est soumise aux conditions suivantes :
- Erreurs statistiques : le modèle peut générer des faux positifs (images authentiques signalées comme générées par IA) et des faux négatifs (images générées par IA classées à tort comme authentiques).
- Utilisation consultative : la sortie de l'API doit servir de signal supplémentaire. Il ne doit pas être utilisé comme seule base pour prendre des décisions critiques, comme le retrait de contenu ou les sanctions à l'encontre des utilisateurs.
- Responsabilité : le service est fourni "tel quel". Google n'assume aucune responsabilité pour les dommages ou les litiges découlant de la confiance accordée aux résultats de l'API.