直播狂欢背后,如何揪出“不按套路出牌”的主播和观众?
在你对着美丽的女主播流口水时,偶尔会看到屏幕上冒出一条不和谐的弹幕,例如:“看艾薇;加XXXXX。”
对于这种不健康的信息,你可能会感到非常愤怒,然后按照号码加一下。。。
这样的观众“福利”,对于直播平台 CEO来说却是不折不扣的灾难。每一个这样的弹幕,都把他向“快播王欣”的角色推进了一步。更何况时不时出现的“造人”直播,恨不能导致“有关部门”直接把直播平台干掉。
“合规性”这个并不性感的词,在某些时刻成为了直播平台的生死线。从这个角度看,直播反垃圾信息成为了一种刚需。采访到了同盾科技的小伙伴,对于直播行业的反欺诈和反垃圾,他们有一些独特的理解。
会“变脸”的敏感词
弹幕里这些影响社会主义和谐社会建设的词汇,统称为“敏感词”,而这些让人心旌动摇的信息,就是“敏感信息”。同盾科技反欺诈及基础产品总监祝伟根据发布人群和传播形式的特点,给直播弹幕的敏感信息做了个分类:
涉黄涉政言论:通常是无组织,由普通直播观众发起。
虚假谣言:通常由水军组织,作为“节奏”发动机,带动一般观众,快速形成热点。
垃圾广告:通常都是黑产组织,发布广告内容。会和直播平台的风控系统形成强对抗。
祝伟说,现在越来越多出现人气很旺的直播场景。在其中往往聚集了几万甚至更多人。这就像现实当中众人聚集的广场,不当的言论会起到煽动的作用。
数万人、数十万人在网络上聚集狂欢,这种情况正在加速出现。在9月27日举行的小米发布会,通过爱奇艺平台对外直播。这场发布会聚集了大量的观众。在直播过程中,不时有“看A片加微信”的字幕从雷军的脸上划过,让人有一种“碉堡了”的错觉。
【弹幕示意图】
对于爱奇艺这样的平台来说,显然会有基本的反垃圾弹幕功能。但是“漏网之鱼”数量依然庞大。这就要归罪于反垃圾引擎的智能性了。因为从“漏网弹幕”的形式来看,大多是敏感词的“变体”,即在敏感词中间加入符号,用同音字、近义字代替敏感词。
有关敏感信息的屏蔽,难度并不小。这是一个从论坛时代就困扰各大平台的难题。祝伟举了几个例子:
- 很多情况下,各大平台都需要屏蔽“鹏”这个人名,但是发弹幕者会用“月月鸟”尝试代替“鹏”字。这种方法被用在很多汉字上。
*而事实上还存在另外一种情况。例如在论坛里经常出现的“进群交流”这样的留言,本来是正常的留言,却很容易因为中间两个字而被关键词系统错杀。。。
想说,汉语的博大精深真是让人跪服得妥妥的。
在这种情况下,一个“厉害”的垃圾信息屏蔽系统,就涉及到语义分析功能。语义分析是人工智能的一个重要的分支技术,简单说来就是消除掉词语的歧义,给一个确定的句子以语义理解。
语义分析这门技术其实已经被用在诸多领域,但是由于人工智能发展程度的限制,使得“通用型”的语义分析可用性不理想。不过祝伟告诉,
语义分析如果局限在特定的领域,就可以针对这个领域做大量的优化,从而大大提高识别的准确性。
他的话通俗来说就是:在弹幕上发垃圾信息,是有套路的。
祝伟表示,死磕直播垃圾弹幕的场景中,一套语义模型是必要的。而模型里包含的要素,就是“样本”“规则”“数据”。随着时间的演进,会产生新的“黑话”,广告的形式和语句也会发生“进化”。但是通常这种变化都是有潮流可循的。也就是说,只要把最新出现的垃圾弹幕不断加入语义模型,系统就会自动演化出对这类弹幕的识别能力。
就是在这种不断和垃圾弹幕作斗争的“猫鼠游戏”中,可以达到越来越强的反击能力。这像极了人类的抗生素和病毒的对抗过程。
人:一切违规的根源
如果你仔细思考:当我们反垃圾弹幕的时候,我们在反什么?
你可能会得出这样的结论:我们在反对“不按规矩出牌”的人。
没错,事情的重点在于“人”。每一条违规弹幕,都会溯源到一个具体的人。祝伟告诉,根据实践经验,大多数情况下发送黄暴弹幕或广告弹幕的人员稳定性很高。
也就是说,有一批人,会经常出没于不同平台,散发垃圾弹幕。对他们来说,这是一份相对稳定的职业。
在这种情况下,就可以把违规的行为,和背后的人建立起相对固定的联系。从而根据人或他使用的设备的信用情况,对违规行为的可能性做出判断。
当然,对于直播的观众,做到强实名认证并不现实。但通过大数据的方式,这个问题在很大程度上可以解决。
祝伟简单推演了这个逻辑:
对于一个真实的人来说,他的注册账号、手机号、所使用的设备、网段 IP等等信息会产生很强的关联性。根据这种关联性,可以对一个新账号和信用库中的信息进行比对,从而“揪出”那些存在“案底”的人。
可以想象一下,同一个人做到同时更换登录设备、注册账号、手机号和网络环境,还是有一定难度的。当然,对于这些“指纹”信息,各自存在一些绕过的技术,但绕过的成本并不低:
首先,很多绕过技术可以被感知,例如虚拟设备、或者 VPN 代理等。
其次,这些绕过措施存在一定的技术门槛,这些门槛乍一看表现在技术上,而实质都会反映在金钱成本上。
当然,行为和设备指纹的关联只是判定规则的一部分。祝伟举了一个同盾提供给直播商的反垃圾工具中的例子:
例如有一条规则:一个用户设备关联的登录 IP超过3个,系统就会向直播平台预警风险。平台可以根据我们的提示选择封禁或者忽略,也可以修改规则的参数,例如把关联 IP 的限度从3改成5。
类似这种的规则还有很多,而且可以根据对抗的方向不断修改或增删规则。可以在很大程度上保证阻拦掉那些“图谋不轨”的用户。
当然,这种技术有一个最核心的需求,就是各个平台数据之间的共通。
在 A 平台上的违规记录,会影响这个用户在 B 平台的信用,这才能大大提高违规用户的成本。
这就是所谓的跨平台封禁。祝伟说。(当然他认为同盾科技就是在这方面很有竞争力的服务提供商。)
厉害的上帝视角
这个逻辑对于主播同样适用。
随着直播平台的规范,主播进入直播平台需要认证的信息也越来越多。以斗鱼为例,目前主播想要加入直播平台,有关身份证和银行卡的校验是必须的。
【斗鱼直播平台的主播认证页面】
“但是,中国目前信息泄露非常严重,盗用其他人全套的个人信息很容易。”祝伟说。
在这种情况下,就需要建立更强大的主播认证体制和主播信用体制。例如,
通过人像识别技术,判断主播的形象是否和注册身份证一致。
建立主播的信用记录,记录 Ta 是否在其他平台曾经涉嫌淫秽内容。
这些工作当然可以在很大程度上提高主播违规的成本,但是祝伟觉得这还不够。“全网负面信息”,这个听起来很厉害的词正是升级方案之一。
比如说,一个主播曾经在婚恋网站商扮演过“婚托”和“酒托”的角色,或者在我们合作的几千家论坛中发送过涉黄、广告的帖子,那么 Ta的信用评分就会受到很大的影响,这个评分会被直播平台看到,从而很可能做出拒绝主播注册的决策。
祝伟承认,对于直播行业的反垃圾,是一个长期的对抗过程。而无论是主播还是观众,涉及的违规多数是“道德风险”,这并不是安全的范畴。
而对于道德风险,只有一种方法,那就是不断提高违规者作恶的成本。当成本上升到和他的收益持平的那一刻,也许就是作恶者转身离开的瞬间。
推荐系统
电脑公司Ghost Win8.1 x32 精选纯净版2022年7月(免激活) ISO镜像高速下载
语言:中文版系统大小:2.98GB系统类型:Win8电脑公司Ghost Win8.1x32位纯净版V2022年7月版本集成了自2022流行的各种硬件驱动,首次进入系统即全部硬件已安装完毕。电脑公司Ghost Win8.1x32位纯净版具有更安全、更稳定、更人性化等特点。集成最常用的装机软件,精心挑选的系统维护工具,加上绿茶独有
微软Win11原版22H2下载_Win11GHOST 免 激活密钥 22H2正式版64位免费下载
语言:中文版系统大小:5.13GB系统类型:Win11微软Win11原版22H2下载_Win11GHOST 免 激活密钥 22H2正式版64位免费下载系统在家用办公上跑分表现都是非常优秀,完美的兼容各种硬件和软件,运行环境安全可靠稳定。Win11 64位 Office办公版(免费)优化 1、保留 Edge浏览器。 2、隐藏“操作中心”托盘图标。 3、保留常用组件(微软商店,计算器,图片查看器等)。 5、关闭天气资讯。
Win11 21H2 官方正式版下载_Win11 21H2最新系统免激活下载
语言:中文版系统大小:4.75GB系统类型:Win11Ghost Win11 21H2是微软在系统方面技术积累雄厚深耕多年,Ghost Win11 21H2系统在家用办公上跑分表现都是非常优秀,完美的兼容各种硬件和软件,运行环境安全可靠稳定。Ghost Win11 21H2是微软最新发布的KB5019961补丁升级而来的最新版的21H2系统,以Windows 11 21H2 22000 1219 专业版为基础进行优化,保持原汁原味,系统流畅稳定,保留常用组件
windows11中文版镜像 微软win11正式版简体中文GHOST ISO镜像64位系统下载
语言:中文版系统大小:5.31GB系统类型:Win11windows11中文版镜像 微软win11正式版简体中文GHOST ISO镜像64位系统下载,微软win11发布快大半年了,其中做了很多次补丁和修复一些BUG,比之前的版本有一些功能上的调整,目前已经升级到最新版本的镜像系统,并且优化了自动激活,永久使用。windows11中文版镜像国内镜像下载地址微软windows11正式版镜像 介绍:1、对函数算法进行了一定程度的简化和优化
微软windows11正式版GHOST ISO镜像 win11下载 国内最新版渠道下载
语言:中文版系统大小:5.31GB系统类型:Win11微软windows11正式版GHOST ISO镜像 win11下载 国内最新版渠道下载,微软2022年正式推出了win11系统,很多人迫不及待的要体验,本站提供了最新版的微软Windows11正式版系统下载,微软windows11正式版镜像 是一款功能超级强大的装机系统,是微软方面全新推出的装机系统,这款系统可以通过pe直接的完成安装,对此系统感兴趣,想要使用的用户们就快来下载
微软windows11系统下载 微软原版 Ghost win11 X64 正式版ISO镜像文件
语言:中文版系统大小:0MB系统类型:Win11微软Ghost win11 正式版镜像文件是一款由微软方面推出的优秀全新装机系统,这款系统的新功能非常多,用户们能够在这里体验到最富有人性化的设计等,且全新的柔软界面,看起来非常的舒服~微软Ghost win11 正式版镜像文件介绍:1、与各种硬件设备兼容。 更好地完成用户安装并有效地使用。2、稳定使用蓝屏,系统不再兼容,更能享受无缝的系统服务。3、为
雨林木风Windows11专业版 Ghost Win11官方正式版 (22H2) 系统下载
语言:中文版系统大小:4.75GB系统类型:雨林木风Windows11专业版 Ghost Win11官方正式版 (22H2) 系统下载在系统方面技术积累雄厚深耕多年,打造了国内重装系统行业的雨林木风品牌,其系统口碑得到许多人认可,积累了广大的用户群体,雨林木风是一款稳定流畅的系统,一直以来都以用户为中心,是由雨林木风团队推出的Windows11国内镜像版,基于国内用户的习惯,做了系统性能的优化,采用了新的系统
雨林木风win7旗舰版系统下载 win7 32位旗舰版 GHOST 免激活镜像ISO
语言:中文版系统大小:5.91GB系统类型:Win7雨林木风win7旗舰版系统下载 win7 32位旗舰版 GHOST 免激活镜像ISO在系统方面技术积累雄厚深耕多年,加固了系统安全策略,雨林木风win7旗舰版系统在家用办公上跑分表现都是非常优秀,完美的兼容各种硬件和软件,运行环境安全可靠稳定。win7 32位旗舰装机版 v2019 05能够帮助用户们进行系统的一键安装、快速装机等,系统中的内容全面,能够为广大用户
相关文章
- 显示器保护屏什么牌子好 显示器保护屏牌子推荐
- 速破解无线路由器密码的全过程
- 光纤猫怎样连接无线路由器?
- 单身狗有救了?邻里互助App可以先做生意再做朋友
- 通信应用LINE“用户数据外泄”,日媒甩锅中韩公司
- 如何铸造企业安全防线?应急响应、安全运营分论坛精华回顾
- 电脑换系统怎么换
- Win7系统如何优化网络
- 网络安全攻防:蓝牙安全
- 一个百度应用差评引起的渗透 渗透百度应用全过程
- 调查显示应对勒索软件的成本增长143%,已达185万美元
- 应该认真对待的8个移动安全威胁
- Chrome 新恶意插件曝光:利用 C&C 服务器同步功能获取用户数据
- 模式不当导致网络故障解决办法
- 漏洞管理:亡羊补牢,未为迟也
- 网络日志管理合规的重要性
- 一些网站https证书出现问题的情况分析
- win8虚拟WiFi适配器不见了怎么办?win8系统虚拟wifi网络适配器消失不见了的解决方法
热门系统
- 1华硕笔记本&台式机专用系统 GhostWin7 32位正式旗舰版2018年8月(32位)ISO镜像下载
- 2深度技术 Windows 10 x86 企业版 电脑城装机版2018年10月(32位) ISO镜像免费下载
- 3电脑公司 装机专用系统Windows10 x86喜迎国庆 企业版2020年10月(32位) ISO镜像快速下载
- 4雨林木风 Ghost Win7 SP1 装机版 2020年4月(32位) 提供下载
- 5深度技术 Windows 10 x86 企业版 六一节 电脑城装机版 版本1903 2022年6月(32位) ISO镜像免费下载
- 6深度技术 Windows 10 x64 企业版 电脑城装机版2021年1月(64位) 高速下载
- 7新萝卜家园电脑城专用系统 Windows10 x64 企业版2019年10月(64位) ISO镜像免费下载
- 8新萝卜家园 GhostWin7 SP1 最新电脑城极速装机版2018年8月(32位)ISO镜像下载
- 9电脑公司Ghost Win8.1 x32 精选纯净版2022年5月(免激活) ISO镜像高速下载
- 10新萝卜家园Ghost Win8.1 X32 最新纯净版2018年05(自动激活) ISO镜像免费下载
热门文章
常用系统
- 1Win7精简版下载_Win7 32位精简版办公优化系统2023.11
- 2电脑公司 装机专用系统Windows10 x86企业版 版本1903 2022年5月(32位) ISO镜像快速下载
- 3青苹果Win10专业版免激活下载_青苹果系统Win10官网版下载
- 4【新人作品】传奇 GHOST XP SP3 电脑城万能装机版v1.5 下载
- 5最新版Windows 11 ARM 镜像 ISO v2023下载
- 6GHOST WIN8 X86 装机专业版 V2018.12 (32位) 下载
- 7大地系统 Win11 64位 专业改造版系统 v2023下载
- 8电脑公司Ghost Win7 Sp1 装机万能版2021年3月(32位) 提供下载
- 9雨林木风GHOST WIN7 SP1 64位免激活旗舰版 v2021.04最新免费下载
- 10深度技术 Windows 10 x86 企业版 电脑城装机版2021年3月(32位) ISO镜像免费下载