最近写了个 ai 绘画小程序,有一些 sd 模型可以出涩图,我该如何检测呢?之前用了一个敏感词检测 API ,但是这 API 太“敏感”了,比如中国,鸡这样的字眼都会报存在敏感词。 或者是说只需在反向提示词那里做限制就可以了?
1
estk 338 天前
百度 AI 的敏感词和图片审核水平还不错,可能是经过了贴吧的摧残而提高的
|
2
chenjia404 338 天前
肯定要啊,不然出现黄图,轻则喝茶,重则进去。
|
3
systemcall 338 天前 via Android
建议直接买个大厂的检测服务
没什么大范围传播的话,出黄图一般也不会进去多久,但是要是出现了小熊维尼的图的话,搞不好直接蒸发了 |
4
whileFalse 337 天前 via Android
直接检测生成的图
|
5
IDAEngine 337 天前
直接检测 prompt ,屏蔽掉所有敏感字,只允许输入中文绘画
|
6
letitbesqzr 336 天前
很多云厂家都有图片鉴黄服务,把生成好的图片先给这些服务过一遍,没问题再展示。
|
7
panxi 336 天前
兄弟,这么跟你说吧,出了敏感问题跟阿里腾讯华为这样的公司还能谈,罚酒三杯了事。对你, 对接的就是国家暴力机器
|