AI 文字审核

站主在 /admin/ai 设置兼容 Chat Completions 的 HTTPS 基础地址、模型、密钥和规则。基础地址包含供应商要求的版本前缀,例如 /v1,服务追加 /chat/completions。接口格式参考Chat API 官方定义。

本地运行

  1. Web 环境配置 PYTHON_API_URL、PYTHON_SERVICE_TOKEN、至少 32 位随机 AI_ENCRYPTION_SECRET。Python 的 SERVICE_TOKEN 与 Web 服务令牌一致。密钥及令牌仅写本地环境文件。
  2. 运行数据库迁移、启动 Web 和 Python 服务,后台填写模型信息、审核规则并启用。
  3. 在仓库根目录执行 pnpm moderation:work,独立终端持续扫描待审内容;pnpm moderation:once 只执行一批。上线时再交由进程管理器运行。

密钥以 AES-256-GCM 加密后保存,页面仅显示是否已配置。留空保留旧密钥,清除需显式勾选。备份恢复必须保留相同的加密秘密,否则需重新录入供应商密钥。

处理规则

  • 普通用户待审内容持久保存在数据库,worker 发现后创建唯一的「目标类型 + ID + 版本」任务。未开启 AI 时维持人工流程。
  • AI 仅给出文字通过或转人工建议。只有严格 JSON 布尔值通过才可自动发布;不通过、格式错误、超时、服务故障均留在人工列表,不自动驳回。
  • 含图片的内容继续人工审核。本轮不声称完成图片识别;图片文字说明通过不能代替图片本身通过。
  • 任务使用 60 秒租约。worker 中断后可再次领取过期任务;外部请求可能重复,但公开状态变更仍校验当前版本和状态。
  • 发布沿用对应业务审核服务,再检查作者封禁、功能权限、项目网址等条件。配置变化、旧版本响应、作者失权均不自动发布。
  • 人工审核在 worker 执行期间仍可操作;已审核版本不会被迟到的结果覆盖。最近任务和人工兜底原因可在配置页查看。
  • 站主提交保持免审,不进入队列。重新启用 AI 时,尚无 AI 任务记录的待审内容也会进入扫描。

真实供应商未配置或未联调时不算外部验收完成。自动审核效果、成本和误判率需按实际模型与规则验证。

Web 配置使用 Server Action;Python 服务接口在 /docs/api 的 Python 规范中展示,禁止浏览器直接携带供应商密钥调用。