实验17-2：智能媒体合规检测

模拟内容平台的审核流程：对文字、图片、音频、视频做多模态风险检测，第一道关按规则词库初筛，第二道关由大模型做语义审核，最后给出风险等级和审核结论（可以发布、转人工复审或禁止发布）

  1. 输入待检测的文案，可再上传图片、音频或视频
  2. 选择检测强度：普通、严格或最高级别
  3. 点“开始审核”
  4. 看各模态的检测结果、风险等级和审核结论

内容输入

0 / 500 字符
试试示例：

检测强度

适用于社交媒体、新闻资讯等一般场景

多模态素材（可选）

文本先过敏感词表，再由大模型做语义审核；图片和视频关键帧由多模态模型看图审核；音频先语音识别再按文本审核。

风险总览

0
待检测

检测报告

等待检测
文本检测
未检测
图像检测
未检测
音频检测
未检测
视频检测
未检测

检测日志

暂无检测记录

违规词云分析 粉色＝词库命中（越大风险越高），蓝色＝大模型指出的问题

技术原理

NLP文本分析: 大语言模型做语义理解,识别隐晦表达和变体
图像识别: 多模态视觉模型看图描述并读出图中文字，文字再过一遍敏感词表
音频检测: 语音识别(ASR)转成文字，再走文本审核的两道关
视频审核: 均匀抽取关键帧逐帧送视觉模型审核，取最高风险分