网络安全关系每位用户的基本利益,也是网络平台的基础保障。为了给用户营造更加绿色健康的网络氛围,假面科技近期全面升级了平台的网络风控能力,努力清除部分用户上传的违法违规信息,不给不法分子可乘之机。
为了更好的清理平台上的涉赌涉黄等违法违规内容,假面科技已与阿里云、同盾科技等国内知名公司合作,搭建起高效的大数据风控平台,对用户上传的文字、图片、语音等各类内容进行系统性识别。一旦风控平台发现有用户上传违禁词汇,系统将会自动拦截,将违规内容扼杀在摇篮中。
在自动拦截违禁词汇的基础上,假面科技大数据风控平台还引入了语境分析机制,理解用户上传内容的真实意图,并加入人工审核团队,全力拦截不法分子发布违法违规内容。而人工审核的结果也将反馈给风控平台进行机器自主学习,从而使风控平台得以不断优化,可以更为精准的分析用户内容。
▲假面科技大数据风控平台上各类型违规信息占比
不仅如此,在大数据风控平台内,假面科技还专门搭建了“涉赌用户行为模型”,针对赌博用户进行有效清理。在内容审查的基础上,引入行为分析,通过对过去已被查禁赌博用户的多维度行为特点分析,总结出赌博用户的整体行为特征,并将此特征与平台用户行为进行拟合。一旦发现有用户行为与该模型高度相似,风控系统将立即向审查人员发出预警,接入人工审核,从而达到精准识别。
在大数据风控平台的基础上,假面科技还进一步扩大了人工审核团队,安排审核人员24小时不间断在假面科技旗下狼人杀、谁是卧底等产品中进行巡查,并设立违规账户举报邮箱,由客服主管直接负责,直接处理用户对于违法违规内容的投诉。为了起到更好的警示作用,产品会在APP内的显著位置展示违规用户处罚名单,甚至挑选部分违规用户名单进行公示,并呼吁平台用户积极举报相关违法违规账号。
除此之外,假面科技还积极与警方展开合作,与公安建立了长效的信息互动机制,共同设立网安警务室,有专人24小时在线巡查,随时向警方上报可疑用户的涉黄涉赌信息,积极配合各地警方联手侦破相关案件。
对于平台上存在的违法违规内容,假面科技搭建起了以大数据风控平台为核心,以人工审核团队为巡查,以警企互动为监督的多渠道强效机制,以期更好的清楚不法分子上传的违法违规信息,从而为用户提供一个稳定安全的网络环境。