说说那些误伤的敏感词汇

[软件开发] 季雨林 2020/1/20 11:52:02

系统开发,尤其是面向于公众开发的系统,总是需要做非法拦截,这是完全合法合理的要求,非法内容一定不能有,最常见的做法是敏感内容检测,例如:关键字检测,图片鉴黄。


案例1:支付宝当年曾经推出过高信誉男性用户可以查看某些圈子照片,导致被滥用为“支付鸨”(改词汇来自于王思聪微博)

支付宝本意是好的,就是结交高质量朋友,然而,市场本源终究是随意的,并未按照其预期结果去发展。


案例2:关键词识别,最典型的就是公众号回复,很多自媒体的公众号,后台都设置了关键词,以至于某些正常语句中包含了该词汇,导致响应出了相关内容,没有准确传达给后台运营人员查看


案例3:今天的重点,就是非法词汇,由于其内容容易引发不良影响,因此本站不列举该类词汇。但是有些时候,敏感词汇的使用,往往是选择“宁可错杀不可放过”的规则。请看下图案例,相信大家都能理解出其误伤原因。


原文地址: https://www.opengps.cn/Blog/View.aspx?id=588 文章的更新编辑依此链接为准。欢迎关注源站原创文章!

评论

暂无评论!

发表评论:

用于接收作者回复信息
点击更换验证码 - openGPS提示