二、原理针对人力资源不足,处理效率低的问题,我们考虑到,可以让一部分外团用户帮助我们来审核。
由外团高信任用户组建安全处理专门团队,目的是速度快、触达广地处理恶意非法内容。
我们的用户自助安全体系,可以根据举报用户的权限,对高授信用户的举报内容自动处理。
完全可信的用户,不允许自动处理;高可信的用户,需要有多人举报(授予自动处理权限的用户举报)才进行自动处理。4、对举报内容自动分析、排序,辅助人工审核。
针对以上情况,我们研发了一套“自助安全系统”的解决方案,开发量小,适配性强,客户端无需任何改动,直接复用已有的“举报”通道,在后台对高授信用户的举报进行自动处理,发现安全问题即可实时在app上进行处理。