AI 文字审核
站主在 /admin/ai 设置兼容 Chat Completions 的 HTTPS 基础地址、模型、密钥和规则。基础地址包含供应商要求的版本前缀,例如 /v1,服务追加 /chat/completions。接口格式参考Chat API 官方定义。
本地运行
- Web 环境配置
PYTHON_API_URL、PYTHON_SERVICE_TOKEN、至少 32 位随机AI_ENCRYPTION_SECRET。Python 的SERVICE_TOKEN与 Web 服务令牌一致。密钥及令牌仅写本地环境文件。 - 运行数据库迁移、启动 Web 和 Python 服务,后台填写模型信息、审核规则并启用。
- 在仓库根目录执行
pnpm moderation:work,独立终端持续扫描待审内容;pnpm moderation:once只执行一批。上线时再交由进程管理器运行。
密钥以 AES-256-GCM 加密后保存,页面仅显示是否已配置。留空保留旧密钥,清除需显式勾选。备份恢复必须保留相同的加密秘密,否则需重新录入供应商密钥。
处理规则
- 普通用户待审内容持久保存在数据库,worker 发现后创建唯一的「目标类型 + ID + 版本」任务。未开启 AI 时维持人工流程。
- AI 仅给出文字通过或转人工建议。只有严格 JSON 布尔值通过才可自动发布;不通过、格式错误、超时、服务故障均留在人工列表,不自动驳回。
- 含图片的内容继续人工审核。本轮不声称完成图片识别;图片文字说明通过不能代替图片本身通过。
- 任务使用 60 秒租约。worker 中断后可再次领取过期任务;外部请求可能重复,但公开状态变更仍校验当前版本和状态。
- 发布沿用对应业务审核服务,再检查作者封禁、功能权限、项目网址等条件。配置变化、旧版本响应、作者失权均不自动发布。
- 人工审核在 worker 执行期间仍可操作;已审核版本不会被迟到的结果覆盖。最近任务和人工兜底原因可在配置页查看。
- 站主提交保持免审,不进入队列。重新启用 AI 时,尚无 AI 任务记录的待审内容也会进入扫描。
真实供应商未配置或未联调时不算外部验收完成。自动审核效果、成本和误判率需按实际模型与规则验证。
Web 配置使用 Server Action;Python 服务接口在 /docs/api 的 Python 规范中展示,禁止浏览器直接携带供应商密钥调用。