刘磊 2025-09-22 17:38 广东
封禁虚假账号1200万背后的战役。
全文共3559字，阅读大约需要8分钟 小红书没有给造假团伙喘气的机会，这场堪称小红书历史上最大规模的治理项目，打击的炮口对准虚假内容生产流水线，从账号、内容、行业、品牌、搜索五大维度，对虚假营销进行全链路治理。
1
蛇打七寸
中介为什么要造假、怎么造假呢？星灼深入到行业中走访、调研，收集信息、请教专家，搞清楚了他们的套路：房源是这个行业的核心资源，这意味着用户在选择房源时，会优先被性价比高、无额外成本的信息吸引。
点开造假中介的页面，所有笔墨皆围绕这一核心需求埋“钩子”：在正文和标题里，用鲜明的字体，写着低于市场价百分之多少，此外，还有“房东直租无中介费”，等强吸引表述。甚至，用“精美装修”+低价标注的粗体字，直接作为笔记的封面。不仅是地产行业，虚假营销覆盖的所有领域，类似模板化的笔记被广为应用。封面、标题、文字笔记、视频内容都有大量的模版，再排列组合，最终的呈现千变万化。但模版的基本要素颇为“醒目”，这就为治理留下了可能性。套用模版的笔记，往往比普通用户的“碎碎念”和随心记录要有冲击力和吸引力，内容也整齐易读很多。虚假营销机构借助模板化笔记，可以批量产出阅读量较高的笔记。“原创、高质和高频，是不可能三角。”负责搜索治理的德里解释，真实是小红书的核心竞争力，用户来到小红书希望看到更多普通人的真实内容，基于这一理念，相较于其他平台优先推流KOL、大V的机制，小红书也会给到普通用户（素人）更多的曝光机会。于是，造假团伙批量制造“伪素人”账号，或者低价招募素人作假，再结合模板化笔记大量生产假内容，一条窃取流量的造假流水线就生成了。“素人”是内容传播的重要载体，不过，囿于时间、精力、创作能力，正常用户难以兼顾“原创+高质+高频”：若用户专注原创与高质，需投入大量时间打磨内容，发布频率必然较低；若用户追求高频发布，内容不是非原创，就是质量粗糙——而如果，某账号长期日更多篇原创高质内容，尤其均为商品种草类内容，则极可能是团伙运营的“伪素人”或是雇佣的账号。▲该账号伪装家长分享经历，真实是教育机构的托。这样一来，“伪素人”账号和雇佣账号的特征不难勾画：他们的人设混乱，发布行为也贞普通用户有较大差异，很多账号之间存在关联度……有了这些特征，就可以通过大模型来把假账号“捉”出来。造假团伙并非造假的源头，在他们的背后，还隐藏着一批“金主爸爸”。负责品牌治理的四叶介绍，大量白牌会依赖虚假营销，一些想走捷径的知名品牌也会不时下单。“擒贼先擒王”，盯住造假品牌，可以从源头杜绝虚假营销。打蛇打七寸，掌握这些基本规律后，一系列有针对性的治理措施随之上线，对虚假营销进行全链路打击。2
用“魔法”打败“魔法”，让用户帮助鉴假
虚假账号和虚假内容是治理的重点板块。通过大模型对账号的异常行为、账号之间的关系进行识别，半年之内，账号治理团队已经封禁了超过1200万个虚假账号。
模板化笔记依靠模版批量生产，但也为治理留下了“命门”。内容治理团队借助大模型，用模板化特征寻找新发的模板化笔记，“用魔法打败魔法”。用户的声音也成为识别虚假内容的“特殊武器”。负责内容治理的利迦在开放日上展示了一系列用户在虚假笔记下的评论：“纯纯AI制图”，“简直演到不知天地为何物”，“为了卖货说了这么多，累不累”……利迦介绍，用户原声也被引入用于识别虚假营销。“核心用户的感觉特别准，虚假也许可以欺骗模型，但欺骗不了核心用户。”▲小红书利迦分享虚假营销笔记模式。相较于其他平台，小红书的用户有其特殊性。“用户问一个很细微的问题，比如去一个景区车怎么坐，在别的平台可能没有回应，但是在小红书会有用户提供非常详细的笔记和回答。”负责搜索治理的德里解释，在整个互联网，小红书社区的友好度和信息的真实度名列前茅。因此，小红书的治理，是奔着核心用户对“真实”的痛点出发，如果平台都能满足这一批“最较真”用户的需求，社区才能保持一个真实UGC的原生状态，这是一种对自身调性的坚持。为了真实，小红书甚至不惜牺牲一些搜索数据指标。“比如一些UGC内容，比较粗糙，还有一些避坑经验，在搜索侧的消费一般，只要真实，我们就会给它更好的搜索展示；而一些内容虽然搜索消费很好，但只要是虚假，我们也会封死搜索侧展示。尽管会影响搜索侧数据指标，但我们愿意接受消费损失。”德里说。搜索治理团队的“有所为，有所不为”带来的是用户对小红书搜索结果颇为显著的正向感知。据介绍，近半年，小红书搜索结果的用户负反馈率下降了20%，用户对社区内容的满意度提升了10%。“处心积虑搞虚假营销，最终的诉求还是品牌露出。”品牌是抓住核心问题的牛鼻子，四叶介绍，小红书已建立“品牌清源系统”：将违规品牌纳入“黑品牌库”，并对虚假营销行为进行全面扫描，精准定位到虚假营销背后的操盘品牌，并对品牌采取阶梯处罚措施，“让造假品牌一露头就挨打。”当单次虚假营销成本高于品牌长期收益，品牌的造假动机也随之削弱。3
打好持久战
队长莱戈的一天往往如此度过：每天上班，他都会优先查看报表，跟踪过去一周虚假营销笔记曝光量、发布总量等变化趋势，及时发现异常波动。遇到618这种营销节点或者明星结婚这种重大娱乐热点，虚假营销内容就会激增，需要及时协调战队各板块的工作。
▲ 小红书“打击虚假营销战队”队长莱戈分享整体治理策略。实际上，小红书打击虚假营销持续做了多年，只是之前缺乏全链路梳理，也没有分板块协同治理，很难将造假链条全部一网打尽。为此，战队涵盖账号、内容、品牌等治理板块，在技术团队的支持下，对虚假营销进行系统化、全链路治理。莱戈对战队成员的描述是，“年轻，敏捷性强，抗压能力也很强。”成员们都很年轻，尤其是在大模型团队，很多人刚毕业两三年。因为涉及到攻防对抗，要不断发现新情况、新苗头，所以这个团队敏感度很高，也有很快的反应能力。面对造假机构的对抗，需在一到两天时间内完成从策略到模型升级，避免线上漏洞持续“流血”。与此同时，制假团伙也在进行对抗。令宜介绍，早期战队在做算法识别时，虚假营销组织爱发长图文笔记+实拍图做某行业的营销，团队针对这种发文特征做了识别模型。起初模型迅速跑通，召回规模也相当乐观，但很快，召回量逐渐减少，甚至几乎失灵。经过排查，团队发现，原来虚假营销组织同样在对抗平台，他们已经察觉到，原来的模版被平台识破，于是把长图文改成了“大字报”，并编造小故事，让笔记看起来像是生活片段分享，而非行业营销，来欺骗模型，绕过平台风控。如此周而复始，直到大模型迭代到能将绝大多数新造假手法实时识破，瞬间处置。眼下，“打击虚假营销战队”已经成立半年，治理也初显成效。从监测数据来看，小红书上的虚假营销运作已经愈发低效。在开放日现场，新媒体营销专家象哥分享了自己在一线实战的观察。他发现，由于平台治理手段升级、商家需求多样化以及用户审美提高等原因，如今诸如“伪素人账号+模板化笔记”的虚假营销套路效果越来越差，转化数据也在直线下降。不少虚假营销团队都在转型，有的找供应链孵化正规品牌，有的转向优质内容创作和合规营销。“打击虚假营销是一场持久战，我们将持续努力，直到令虚假营销成本高于收益。”队长莱戈称。只有不断提高造假门槛，通过持续降低ROI，压缩虚假团队的牟利空间，直至虚假营销成本大于合规营销的那一天，虚假营销才会成为历史。（专题）