用对话模型审核文本
在系统提示里写明审核类别和输出格式,用response_format 要求模型只返回 JSON。下面的示例用 gpt-5.4-mini,一次审核约 70 个输入 token,价格见模型与价格总表。
choices[0].message.content 类似:
flagged:true表示命中至少一个类别。categories:命中的类别列表;类别可以按业务需要在系统提示里增减。
原 Moderation API 的响应字段
以下是下线前POST /v1/moderations 的响应格式,供迁移旧代码时对照。旧请求只需要 model 和 input 两个字段。
普通文本会得到类似下面的响应(省略了 id 等字段):
results[0].flagged:true表示至少命中一个类别,false表示没有命中。results[0].categories:每个类别对应一个布尔值,值为true的键就是命中的类别,例如violence。