模型定位
OpenAI CSAM Image Classifier 是面向获批准机构的儿童安全图像分类模型,用于辅助识别可能涉及儿童性虐待材料(CSAM)的图片,包括可能由 AI 生成的材料,并帮助审核人员安排复核优先级。OpenAI 于 2026 年 11 月 16 日发布该模型。(openai.com)
能力与用途
- 接收单张静态图片,分别返回潜在 CSAM 和潜在 AI 生成 CSAM 的分类标记及风险分数,对应
likely-csam和likely-csam/gen-ai。(developers.openai.com) - 可辅助发现已知内容哈希匹配可能遗漏的新图片,并与哈希匹配、行为风险检测及受训人员审核结合,用于内容分流和儿童安全工作流程。(deploymentsafety.openai.com)
- 通过独立的
POST /v1/moderations请求调用,每次提交一张不超过 20 MB(20,000,000 字节)的图片。(developers.openai.com)
限制
- 使用前须申请并获得组织级访问批准;不得提交已确认的 CSAM。(developers.openai.com)
- 不支持文本分类、内联审核或 Batch API;官方尚未针对视频帧测试其表现。(developers.openai.com)
- 分数不是经校准的概率,也不能单独证明图片的法律性质或 AI 来源;模型不会自动向主管机关报告。结果应结合受训人员复核和适用的处置流程,且可能出现误报或漏报。(developers.openai.com)
价格
截至 2026 年 11 月 18 日,官方说明获批准机构可免费使用该分类器;输入图片和分类结果均无单独公布的输入/输出计费价格,币种不适用。访问资格仍需审批。官方定价依据:CSAM classifier 使用指南。(developers.openai.com)