敏感词管理
标签:
敏感词设置入口:app管理后台--信息--通用设置--敏感词汇管理
可批量添加敏感词,多个敏感词同时添加用英文“,”隔开;敏感词只能包含中文、小写英文及数字
需要注意的是,敏感词不可能完全阻拦违规内容,建议特殊时期,可以收紧审核权限,开启先审后发
1.本地圈敏感词相关设置
入口:信息管理-本地圈管理-本地圈设置-基本设置
【敏感词相关设置】
含敏感词的圈子和评论-待审/通过
待审:用户发布的圈子或者评论中,含敏感词,状态默认为审核,需要人工手动通过,才会显示
通过:即使含敏感词,状态也是通过,直接显示
需要注意的是,待审状态的圈子和评论,需要人工手动通过才会显示的意思是,其他用户能看见。
包含敏感词的内容,会标红 高亮显示。
2.视频敏感词相关显示
入口:管理后台--信息--视频/直播--评论列表
用户发布带有敏感词的内容会自动进入待审,需要人工手动通过,才会显示审核勾选含有敏感词,可快速查看
3.聊天相关显示
后台聊天记录中 涉及到后台设置的敏感词时会高亮显示,便于审核
入口:用户--聊天管理-聊天记录(只有admin账号可以查看)
说明:
a、默认显示最近两天内的所有聊天记录
b、发送者和接收者不要求同时搜索,若只搜索发送者,则会显示选定时间段内,发送者与其他人的聊天记录
c、为便于搜索不当的言论,可筛选选定时间内 含敏感词的聊天内容
d、聊天记录中的用户名显示顺序:发送者 to 接收者
4.用户注册相关
开启过滤用户名以后,app端注册与修改昵称(用户名)包含敏感词将无法完成
开启入口:APP管理后台--信息--通用设置--注册与访问设置
dz论坛设置入口:全局--注册与访问控制--用户信息保留关键字,填写保留关键词,提交
5.帖子相关
带有app后台敏感词的帖子,后台会提示敏感词,但不会影响帖子本身的审核状态。
如果需要触发敏感词进入审核,则需要在论坛后台设置
dz论坛设置入口:管理中心--内容--词语过滤--批量添加,填写敏感词,提交
提交完成后,返回管理页面,对敏感词进行设置
新增敏感词(关键词)默认会被替换,如果需要审核,可以选择审核关键词,设置完成后提交,则带有审核关键词的帖子和回复会自动进入待审。
如果需要管理员或马甲身份不触发关键词,可以在用户组--基本设置内,忽略需要审核的关键词
若发帖禁止敏感词不提醒,可进行设置:解决discuz论坛发帖触发禁止关键字,在提示中显示触发的关键字https://bbs.qianfanyun.com/forum.php?mod=viewthread&tid=35375&extra=page%3D1
6.签名相关
审核开启入口:app管理后台--运营--信息安全--实时扫描--用户审核--审核设置
开启后,用户前端修改签名直接成功,后台生成记录,app敏感词会标红,点击【删除签名】则用户个人主页,签名置空。
关联设置:
1.搜索如何设置屏蔽或关闭?http://www.qianfanyun.com/help/1848
2.【AI审核】用户安全扫描 http://www.qianfanyun.com/help/1583
3.【AI审核】内容安全扫描 http://www.qianfanyun.com/help/1613
4.【AI审核】信息安全第三版-实时扫描 http://www.qianfanyun.com/help/1690