Présentation
Classificateur d’images spécialisé dans la détection de contenus susceptibles de constituer du matériel d’abus sexuel sur enfant (CSAM), y compris des images nouvelles ou potentiellement générées par IA. Développé avec l’aide du National Center for Missing & Exploited Children (NCMEC), il complète notamment la correspondance par empreintes et l’examen humain. Publication : 16 novembre 2026. (openai.com)
Capacités et usages
- L’API renvoie deux signaux distincts,
likely-csametlikely-csam/gen-ai, avec des indicateurs et des scores. Ils peuvent aider à prioriser les images pour un examen par du personnel formé et à alimenter un dispositif plus large de protection de l’enfance. (developers.openai.com) - L’architecture associe un encodeur d’images CLIP interne à un perceptron multicouche à trois couches. Les images soumises à cette API sont traitées sans conservation et ne servent ni à l’entraînement ni à l’évaluation, selon la fiche officielle. (deploymentsafety.openai.com)
Accès et limites
- Accès réservé aux organisations approuvées, par requête autonome
POST /v1/moderations. Chaque requête accepte une seule image fixe de 20 Mo maximum ; la classification de texte, la modération intégrée et l’API Batch ne sont pas prises en charge. Ne pas soumettre d’images dont le statut CSAM est déjà confirmé. (developers.openai.com) - Des faux positifs et faux négatifs sont possibles. Les scores ne sont pas des probabilités calibrées ; ils ne prouvent ni le statut juridique d’une image ni son origine générée par IA. Le modèle ne signale pas automatiquement les contenus aux autorités et ne remplace pas l’examen humain. Les performances sur la vidéo n’ont pas été établies. (developers.openai.com)
Prix
Utilisation gratuite pour les organisations approuvées : aucun coût d’entrée ou de sortie n’est indiqué séparément et aucune devise ne s’applique à cette gratuité. Source officielle consultée le 18 novembre 2026 : guide du classificateur. (developers.openai.com)