2021年9月初，他趣App发起新一轮净网行动，将平台网络安全防控体系进一步升级，建立了多维度的网络识别、甄别系统，对网络常见的黑灰产与近期流行的“羊毛党”、“假社交真陪聊”等违反社交公平的不法行为进行鉴别打击，为用户营造清朗洁净的网络空间。

近年来，网络社交、社区和短视频产业发展迅猛，市场规模不断扩大，然而“与时俱进”的黑灰产似乎嗅到了其中的绝佳商机，在利益的驱使下不断入侵入平台内部，他们历经时代的演变，熟悉了各大平台的内容防控手段后，在作案手法上进行更新迭代，甚至通过裂变等方式培养起了规模庞大的“薅羊毛”部队，利用交友平台，实施“杀猪盘”等诈骗的不法分子

也日渐增多，给平台与用户造成了极大损失。

构建内容多重审核体系

为保障用户权益，他趣App建立了三级内容审查体系，并持续完善机器初审、人工复审、全平台抽审机制，具备全平台对图片、文字、语音、视频流媒体无差别检测的能力，公司与国内知名的词库和特征库服务商进行深入合作，通过多个过滤系统交叉审核以保障识别效率。为有效防范黑灰产的渗透，平台根据黑灰产常见的作案手法指定专项策略，对黑灰产常用手法和话术，如刷单引流、钓鱼网址引流、脚本机器人刷量、假冒女性引流等具体案例编制了预警规则，能有效地阻止上述非法内容在平台内传播。在内容审核的具体执行上，平台强化人工复审、抽检环节，确保所有审核过程可追溯、可问责。

加强用户账号行为监测

他趣通过研究黑灰产的侵入路径发现，黑灰产通常以批量注册账号或购买实名账号的方式登入平台潜伏，更有甚者通过发布“陪聊”、“赚佣金”、“抢红包”等广告等方式吸引普通用户，再进行教唆套取相关收益，犯罪路径逐渐隐蔽，平台公司已就用户行为建立了智能监测系统，能够就用户登录IP、登录频次、在线时间、用户消息数、发送内容等特征建立监测规则，通过监测预警系统初筛、人工复检等方式，快速锁定行为异常的用户账号并开展反制措施，目前，用户行为监测系统不仅能够快速识别脚本、机器人账号，也能快速锁定带有特殊目的的“专业用户”，特别是假借交友名义套取平台聊天收益的羊毛党。自2021年以来，平台月查杀违规账号超10万个。

强化用户投诉举报响应机制

他趣坚持用户导向，重视用户在肃清网络环境工作中发挥的主体作用，在App内活动页面右上方、直播间上方及用户聊天窗口等多处显要位置设置了“一键举报”按钮，平台在收到用户举报信息后，将第一时间安排专项工作人员进行案件核实，并根据用户反应的具体情况调取过程数据和历史记录，若用户反应的情况存在违规行为属实，将直接锚定违规行为实施主体开展反制措施，通过关联特征分析排查同类主体，情节严重的，将第一时间向公安部、网信办等相关部门汇报情况并将用户举报处理情况反馈至用户。

建立风险行为和用户预警机制

在加强用户反诈意识宣贯、提升不法行为识别方面，平台就当前流行的黑灰产作案手法进行汇总和归类，就“刷单赚钱”、“广告拉新”、“博彩引流”、“伪装女性用户聊天加好友”等惯用手法编制智能提醒策略，在用户日常互动过程中，可就用户的互动内容和上下文编制风险提示弹出策略，用户在触发常见的风险行为后(如加好友、转账等)将会收到预警提示，对于活动路径异常的用户，平台也会对其进行标识，提醒用户应加强风险意识，有效加强用户风险意识。

发挥平台“桥头堡”牵引作用

除了通过平台查杀和甄别外，他趣还与公安、网络安全以及网信管理部门开展了深度合作，并在打击网络黑灰产方面取得显著成效。应用平台在具备查杀和鉴别能力后，成为了不法行为侦查的“桥头堡”，能够第一时间提供犯罪线索；平台对不法行为进行核实和记录，锁定账号等身份标识后，将线索第一时间上报给当地公安部门，由公安部门进行专项侦查，上述流程能够快速锁定嫌疑人身份，有效提高办案效率。当前，在各方组成的网络生态治理体系中，互联网平台应充分发挥自身优势，在打击网络黑灰产方面有主动肩负起平台主体责任，发挥更大作用。

进入全面互联网时代，面对网络黑灰产业侵入方式和作案手段的升级，社交平台仍面临内容生态治理的挑战，这需要用户、平台主体和主管部门群有效联动，构建完善的内容安全防控体系，他趣App也将继续强化平台管理，培育健康、正能量的网络文化，构建清朗的网络氛围。