Pour identifier les images générées ou modifiées par l'IA à partir de modèles Google et tiers, vous pouvez utiliser l'API AI Content Detection. Ce document explique comment fonctionne l'API, ses limites et comment demander l'accès.
Fonctionnement
Pour utiliser l'API, envoyez une charge utile d'image au point de terminaison de la plate-forme Gemini Enterprise Agent à l'aide d'un appel d'API REST. Les formats d'image compatibles sont les suivants :
- JPEG
- PNG
- WebP
Traitement…
L'API traite la charge utile à l'aide de modèles de machine learning qui analysent les artefacts au niveau des pixels, les motifs de bruit et les anomalies spectrales. La réponse agrège les résultats des modèles.
Conservation des données
L'API ne stocke ni ne conserve les images traitées.
Demander l'accès
L'API AI Content Detection est en version bêta privée. Pour demander l'accès au point de terminaison, remplissez le formulaire de demande.
Avis de non-responsabilité et limites
L'API fournit une estimation probabiliste et ne garantit pas une identification définitive. L'utilisation du service est soumise aux conditions suivantes :
- Erreurs statistiques : le modèle peut produire des faux positifs (images authentiques signalées comme générées par l'IA) et des faux négatifs (images générées par l'IA classées à tort comme authentiques).
- Utilisation à titre consultatif : la sortie de l'API doit servir de signal supplémentaire. Elle ne doit pas être utilisée comme seule base pour prendre des décisions critiques, telles que la suppression de contenu ou les sanctions à l'encontre des utilisateurs.
- Responsabilité : le service est fourni "en l'état". Google n'assume aucune responsabilité pour les dommages ou les litiges résultant de la confiance accordée aux sorties de l'API.