违规类型说明
内容审核系统支持的违规类型。文本审核命中敏感词库时默认归类为 other;图片审核仅返回 NSFW / SFW 概率,由调用方按阈值判定。
| 参数 | 类型 | 必填 | 说明 |
|---|---|---|---|
| pornographic | 色情低俗 | 可选 | 图片 NSFW 概率超阈值或文本命中色情词库 |
| drug | 毒品违禁 | 可选 | 涉及毒品、违禁药品相关内容 |
| gambling | 赌博博彩 | 可选 | 涉及赌博、博彩平台宣传 |
| fraud | 诈骗欺诈 | 可选 | 包含诈骗、欺诈相关信息 |
| abusive | 辱骂攻击 | 可选 | 辱骂、人身攻击内容 |
| spam | 垃圾广告 | 可选 | 垃圾广告、恶意推广 |
| bloody | 血腥内容 | 可选 | 血腥、残忍描写或图像 |
| violent | 暴力恐怖 | 可选 | 暴力、恐怖主义相关 |
| other | 其他违规 | 可选 | 命中敏感词库默认归类,需人工复核 |
环境变量配置
| 参数 | 类型 | 必填 | 说明 |
|---|---|---|---|
| NSFW_MODEL_PATH | string | 可选 | NSFW SavedModel 目录路径,默认 /app/models/nsfw_model |
| NSFW_THRESHOLD | integer | 可选 | NSFW 判定阈值百分比,默认 50(范围 0-100) |