随着互联网的发展,“敏感词过滤”这一需求也在市场中不断增加。

敏感词过滤是一种阻止网络不良信息扩散和灰黑产扩张的技术手段,对可能存在不合规的关键词进行有针对性的筛查和屏蔽。通过这样的一种技术手段,很多时候游戏厂商或是平台能够防患于未然,把后果严重的消极影响扼杀于萌芽之中。

互联网社区和游戏平台应用的不断发展和变化,敏感词过滤系统(尤其是针对传奇、SLG类型的游戏黑产广告话术)也经历了以下多种过滤方法:

游戏禁言机制(游戏里敏感词过滤的常见方式有哪些)(1)

1.敏感词替换

敏感词替换是较早出现的一种敏感词过滤方式。即系统不会在用户端进行敏感词过滤和校验,而是把这个工作放在数据入库之前完成。在数据写入数据库之前,系统根据已经制定的规则把所有敏感词替换为设定好的符号或文字,但是这个过程是不可逆的。

这种技术手段对于阻止网络暴力成效显著,用户在阅读其他人的发布信息时,不会再看到那些刺眼的侮辱性的字眼,但又不会太过于破坏发布者的本意。同时,它不会对用户的阅读造成很大的干扰和障碍,尤其是在聊天室或群组等场景中。

2.敏感词屏蔽

其次就是敏感词屏蔽,是指直接去除发布信息中的敏感词,然后写入数据库。这种方法可以最大限度地避免对普通用户的隐性骚扰,但代价是发布信息的可读性可能会下降,甚至影响阅读体验。

3.阻止发布

最后一种是在用户端阻止发布,是指系统在用户发布信息时,本地或服务器端的信息,一旦发现用户发布的信息符合敏感词过滤条件,便立刻阻止用户发布操作并返回提示信息,提示用户有敏感词不符合发布要求,并要求用户修改发布的信息。

这种过滤方法可以最大限度地降低系统本身的安全风险,显著降低人工审核的成本,在用户输入昵称和简单介绍时效果最好,同时也适用于一些论坛博客类网站在审核博主发文时的处理手段。

游戏禁言机制(游戏里敏感词过滤的常见方式有哪些)(2)

三种不同的方式存在各自明显的优势与劣势,但不管是哪种审核机制,都会面临在流程中无法预估或难以控制的成本、人力及时间问题。

因此对于传奇游戏内比较容易造成不良影响的灰黑产敏感词的处理方式,除了人工的审查之外,还必须有具备智能化的谛听安全机器审查。这两者的结合可以最大限度的节省时间与人力成本,并将覆盖率与精准度提升到最高,从而避免错删、误删、过晚发现等问题,造成进一步的游戏玩家损失。

,