首页|滚动|国内|国际|运营|制造|监管|原创|业务|技术|报告|测试|博客|特约记者
手机|互联网|IT|5G|光通信|LTE|云计算|芯片|电源|虚拟运营商|移动互联网|会展
首页 >> 必读二 >> 正文

不为人知的战斗:互联网平台的黑灰产狙击战

2020年12月2日 07:38  AI蓝媒汇  

互联网的发展为生活提供了越来越大的便利,但伴随着技术的更迭,信息安全问题始终蛇随棍上,风险与机遇相伴相生。

在用户看不到的地方,各大平台早就于暗处展开了一场不为人知的黑灰产狙击战。

诈骗,从电信到互联网

如果说移动互联网发展的A面,是信息改变生活、信息创造价值。那么伴随着技术带来的美好生活改变,外界也不得不注意到隐藏在暗处不为人知的B面——严峻的信息安全问题。

“你好,在吗?”

“您的社保卡涉嫌洗黑钱……”

“我们提供五到十万的小额贷款,利息特别低……”

电信时代,因隐私泄露导致的诈骗案件就不胜枚举,到了移动互联网时代,手段随着平台形式的变化,也愈发变本加厉。

今年10月,哈尔滨市公安局刚刚破获了一起跨省“微商诈骗”案件,嫌疑人以朋友圈贩卖名表为由前后非法所得近百万元。而类似的相关案件比比皆是,今年9月,陕西仙居警方破获了一起“面膜微商”诈骗团伙,犯罪团伙以科技公司的概念包装自己,在社交平台招收代理商,但其营造出来的所谓买家和卖家均为同一人。警方披露,仅4个月内,全国就有1000多人因此中招,被骗金额从199元到数万元不等。

刷单、代理这些因社交平台、电商平台而兴起的诈骗现象已经十分严峻。

AI蓝媒汇发现,在黑猫投诉上搜索“微商”,与其相关的投诉消息达到11446条,与“刷单”相关的投诉结果达到9289条。

另一个公开数据是,目前流行于大学生群体的电信诈骗种类中,兼职刷单占比高达33%,冒充好友占比22%,网络购物占比14%,冒充客服占比10%,充值返现占比7%,游戏交易占比7%,网络贷款占比3%,其他占比4%。

网络黑产无所不在,一方面警示用户不要轻信“天上掉馅饼”,另一方面也倒逼整个行业的集体思考,除了依靠政府监管,平台自身究竟能为防范网络安全、保护用户信息安全做些什么?

平台率先承担自治责任

值得庆幸的是,行业第一时间看到了问题的严重性。面对普遍存在的问题,大部分头部平台也意识到需要率先承担自治责任。

以电商巨头淘宝为例,其在去年推行针对网店的稽查系统时,注意到在平台内部存在的一整条“炒信”黑色产业链,利用店主急于提高店铺信誉的需求进行勒索、诈骗等现象。通过自查发现问题后,淘宝就利用自身平台技术对网站进行清查,并联合警方、工商部门共同打击违法犯罪行为。

包括对当下流行的刷单问题,淘宝也始终通过完善大数据模型,对刷单行为进行实时监控,尽可能从根源上防治刷单行为的扩大和猖獗。

另一个走在监管前面的平台就是抖音。

众所周知,抖音在日前因“假靳东事件”在行业内引发了不小的舆论风波,业内也围绕短视频平台诞生的新型诈骗手段进行了广泛的讨论。在这期间,抖音作为涉事平台也率先针对该事件进行了相关自查自治。

AI蓝媒汇注意到,事件爆发之后,抖音在其主站页面紧急上线了用户搜索提示,在结果页的明显位置提醒用户注意区分异常帐号,最大程度做到警示作用。

另一方面,据抖音在平台治理开放日上公开数据显示,事件爆发后,抖音安全中心针对假靳东相关帐号进行了及时速清,2天内清查了5000+疑似靳东仿冒帐号,完成下架话题143个,召回并处理了问题存量视频195w。

据AI蓝媒汇了解,实际上抖音早在今年4月份就开启了“仿冒名人”的打击专项,只不过在项目的前两个阶段,抖音针对的是“侵犯明星肖像名誉权”的侵权帐号,以及“以快速涨粉和直播带货变现为目的的电商黑产”。

在半年时间里,抖音针对“仿冒名人”问题上线了数十条风控策略模型打击冒充名人帐号,前后召回了超过30万的问题帐号。

截至目前,抖音安全中心已经封禁了黑产作弊帐号7万余个、重置仿冒资料用户3万余个、处理问题视频超过400万条。

分层治理:以防为先

可以看出,此次因为“假靳东事件”触发的紧急治理措施只是肉眼可见的冰山一角,大量由平台主导的自治工作往往是隐藏在海平面下硕大的冰山主体。

对于行业里很多公司的安全团队来说,做的很多事情,都是隐藏在公开事件背后,甚至是发生在公开事件之前的。安全工作的目的就是保障不发生意外事件,一旦发生了说明工作是存在问题的,而不发生工作,意味着所有的工作都是不为人知的。

黑灰产狙击工作就是典型的安全工作,但打击黑灰产,即便是不被看到,也都是希望跑在违法违规行为与内容之前。

以“冒充名人”诈骗的事情为例,在上个月双11活动期间,就出现了类似的“假冒客服诈骗”行为,主要表现就是在明星直播间“假冒客服”,沟通用户实施退款诈骗。抖音安全中心在日常巡查中看到了此类诈骗的苗头之后,迅速上线了相关打击的策略模型,打击相关账号,从源头拦截此类诈骗行为。

从治理逻辑上来看,抖音安全中心是以“防”为先,利用技术对抗拦截,将大量工作安置于后台,尽可能做到不被前台感知,因为一旦感知,就代表有用户可能受伤害。

而这种以“防”为先,在后台的工作,往往不为人知。

今年4月,抖音安全中心成立了“冒充名人打击专项”,梳理了平台上仿冒名人的问题现状,整理出900多位容易被仿冒的明星名单,联动公司明星垂类相关负责人进行实时维护与信息联动,保证明星帐号输出内容的真实性。

与此同时建立针对冒充名人行为的打击标准、搭建专项审核队列、训练仿冒名人模型、制定问题帐号和视频召回策略,针对用户资料仿冒、视频仿冒等行为进行梯度打压。

也就是说,在“假靳东事件”爆发之前,“冒充名人专项”活动就已经为特殊舆情事件完成了大量的奠基工作。今年6月到事件爆发之前,平台就已经召回进审13041个样本,审出封禁1689个样本,人工批量封禁3w+,已累计封禁 34948个帐号,其中包含6031个仿冒靳东帐号和5056个仿冒马云。

而这些,恰恰是在偶发性事件爆发之前,被隐藏在后台的不为人知的真实数据,偶发性事件爆发之后,这些数据是有意义还是无意义?

对于平台来说,黑灰产等各种违法违规行为的治理,都是需要一整套完善的治理体系,最底层是技术能力,中层是产品能力,上层直接面对用户的是运营能力。

这一套治理体系,对于抖音来说,以防为先的策略模型靠的是技术,但这显然是不够的。因此,除了在技术端不断完善样本标准,硬性防治,产品团队也需要在产品体验、产品运营及用户教育方面进行了相关的软性治理。

AI蓝媒汇观察到,在抖音拥有近千万粉丝的“神探大妈”长期以情景短剧的形式进行互联网骗局的揭秘,为广大用户,尤其是中老年用户进行宣传和科普教育。为此,抖音安全中心也联动神探大妈制定了相关教育视频,定向推送给中老年用户以起到提醒、警示、教育的作用。

从建立模型主动拦截、到接收用户反馈进行审核、到常规与突发巡查相结合,再到完善产品功能作出警示提醒,抖音安全中心针对平台内外的网络黑产打击层层递进、全面覆盖,尽可能地将安全问题思考得全面和深入。

但即便是这样,业内也不得不诚然,平台的治理工作依旧任重而道远。正如移动互联网发展至今仍然存在电信诈骗一样,网络信息黑产问题已经形成了较长且深入的产业链,在巨大利益诱惑的面前技术手段更新迭代,且有着明显的跨平台犯罪特征。

那么理所当然,针对某一平台爆发的网络诈骗事件,就不该局限于该平台一己之力完成治理,更多地是需要产业链上涉及的各个关键平台联合起来,共同针对网络黑产予以打击防范。

彼时,这场隐秘的角落里展开的“战斗”才有可能从单打独斗的“巷战”升级为高效精准的“狙击战”。

编 辑:值班记者
免责声明:刊载本文目的在于传播更多行业信息,不代表本站对读者构成任何其它建议,请读者仅作参考,更不能作为投资使用依据,请自行核实相关内容。
相关新闻              
 
人物
工信部部长肖亚庆:全国“5G+工业互联网”建设项目超过1100个
精彩专题
专题报道丨2020年世界电信和信息社会日
专题报道丨山至高处人为峰,中国5G信号覆盖珠穆朗玛
专题报道丨助力武汉"战疫",共铸坚强后盾
2019年信息通信产业盘点暨颁奖礼
CCTIME推荐
关于我们 | 广告报价 | 联系我们 | 隐私声明 | 本站地图
CCTIME飞象网 CopyRight © 2007-2020 By CCTIME.COM
京ICP备08004280号  电信与信息服务业务经营许可证080234号 京公网安备110105000771号
公司名称: 北京飞象互动文化传媒有限公司
未经书面许可,禁止转载、摘编、复制、镜像