跳转到主要内容
omni-moderation-latest 和 omni-moderation-2024-09-26 已于 2026 年 10 月 15 日下线,POST /v1/moderations 不再可用。
  • 现在调用会返回 503,提示当前分组没有该模型的可用渠道,不扣费。
  • 需要审核文本时,改用对话模型按自定义类别输出 JSON,见用对话模型审核文本。

用对话模型审核文本

在系统提示里写明审核类别和输出格式,用 response_format 要求模型只返回 JSON。下面的示例用 gpt-5.4-mini,一次审核约 70 个输入 token,价格见模型与价格总表。
返回的 choices[0].message.content 类似:
  • flagged:true 表示命中至少一个类别。
  • categories:命中的类别列表;类别可以按业务需要在系统提示里增减。

原 Moderation API 的响应字段

以下是下线前 POST /v1/moderations 的响应格式,供迁移旧代码时对照。旧请求只需要 model 和 input 两个字段。 普通文本会得到类似下面的响应(省略了 id 等字段):
  • results[0].flagged:true 表示至少命中一个类别,false 表示没有命中。
  • results[0].categories:每个类别对应一个布尔值,值为 true 的键就是命中的类别,例如 violence。
各类别的含义见 OpenAI 审核指南。迁移到对话模型时,可以沿用这些类别名。 无论用哪种方式,审核结果都是风险信号,模型可能误报或漏报;封禁账号、删除内容等重要处理,请保留人工复核。

相关文档