小红书：有黑灰产团伙用 AIGC 大模型批量生成同质化素材，严重扰乱社区生态

近日，小红书的“薯管家”团队发布了最新的“小红书黑灰产账号治理阶段进展公告（六）”，截至最近统计的数据显示，他们在过去的3个月内共清理了3208343个涉嫌“黑灰产”的账号，其中包括401个粉丝超过10万的账号和9215个粉丝在1万以上的账号。

这次的黑灰产账号治理工作主要集中在两个关键领域。

• 首先是打击黑灰产养号现象：黑灰产团伙常常通过批量发布相似内容的视频等方式来增加账号的粉丝数量，然后通过售卖账号或发布虚假内容来牟利。据悉，在过去三个月里，治理团队成功清理了超过100万个涉嫌黑灰产养号的账号。目前，真人养号成为了治理的重点之一，黑灰产团伙利用AIGC大模型来生成大量相似素材，或者跟风热点，通过庞大的矩阵系统来增加账号数量，严重扰乱了社区生态。

• 其次是打击黑灰产恶意营销行为：黑灰产团伙会利用账号售卖灰色或违法商品或服务，比如提供“逾期协商”服务（帮助债务人逃债）或提供虚假的“占卜玄学”服务。此外，他们也会通过矩阵系统在多个领域进行违规营销，组织数千黑灰产账号发布虚假、低质、恶意的营销内容。例如，他们在旅游和教育领域打造“素人人设”账号，吸引用户购买课程，同时在创业领域发布虚假内容诱导用户购买服务。

据报道，小红书在去年11月宣布将全面展开为期两个月的黑灰产账号治理行动，主要针对“横向评测黑灰产水军”和“黑灰产账号矩阵”进行打击。治理专项负责人表示，这将是小红书历史上最严格的黑灰产账号治理行动。

广告声明：文中包含的外部链接仅供参考，点击查看更多信息。