feat: implement t-604 keyword prompt moderation
This commit is contained in:
+4
-2
@@ -1,6 +1,6 @@
|
||||
# 内容安全与本地敏感词过滤
|
||||
|
||||
> T-604 的实施口径。目标是先做「中文 prompt 本地敏感词快筛」,命中在扣点和调上游之前拦截;云内容安全与输出审核保留接口,不在本任务做实。
|
||||
> T-604 的实施口径与实现记录。目标是先做「中文 prompt 本地敏感词快筛」,命中在扣点和调上游之前拦截;云内容安全与输出审核不在本任务做实。
|
||||
|
||||
## 定位
|
||||
|
||||
@@ -21,7 +21,7 @@
|
||||
6. 预扣点、写 pending 调用和 consume 流水。
|
||||
7. 调上游,成功后写成功记录;失败走既有退点路径。
|
||||
|
||||
说明:当前 `apps/moderation` 骨架里有 `moderate_output_*` 钩子,但 T-604 不启用输出审核。输出审核若后续落地,必须重新定义「命中是否退点」的产品策略,并让 `MODERATION_REFUND_ON_OUTPUT_BLOCK` 真的生效;在 T-604 中不要暴露一个未实现的配置。
|
||||
说明:T-604 已清理早期骨架里的 `moderate_output_*` 钩子和云厂商 provider stub,只保留 `moderate_prompt()` 本地关键词入口。输出审核若后续落地,必须重新定义「命中是否退点」的产品策略,并让对应配置真的生效;在 T-604 中不要暴露一个未实现的配置。
|
||||
|
||||
## 数据模型
|
||||
|
||||
@@ -83,6 +83,8 @@ admin 要求:
|
||||
|
||||
## 验收
|
||||
|
||||
当前实现状态:DONE。已落地 `apps.moderation`、`SensitiveWord` 模型/admin/迁移、`ahocorapy` keyword provider、归一化管线和共享 cache 版本号失效;生成接口已改为 serializer 后先审 prompt,命中时不会下载 `image_url`、不会扣点、不会写调用/流水、不会调上游。
|
||||
|
||||
T-604 完成前至少覆盖:
|
||||
|
||||
- `MODERATION_ENABLED=false` 时生成接口 no-op,既有用例不变。
|
||||
|
||||
Reference in New Issue
Block a user