小红书惊现黑灰产团伙！AIGC 大模型批量生成同质化素材，社区生态岌岌可危

黑灰产团伙狂潮！AIGC 大规模生成素材，小红书社区遭遇危机！

　　 2月19日消息，小红书“薯管家”于昨日发布了“小红书黑灰产账号治理阶段进展公告（六）”。公告显示，截至今年2月17日，小红书“黑灰产账号”治理专项团队在近三个月内共处理了3208343个账号，其中包括10万粉丝以上的账号401个和1万粉丝以上的账号9215个。

　　 据介绍，黑灰产账号治理可分为两大重点打击领域。

　　 在过去三个月里，治理团队共处理了超过100万个黑灰产养号行为。黑灰产团伙通常会使用常见的手段来养号，比如批量发布相同类型的影视综二次创作视频，从而提升账号的关注度。之后，他们通过出售这些账号或者发布虚假营销内容来实现盈利。最近，由于真人养号具有较高的隐蔽性，已成为治理工作的重点。黑灰产团伙利用人工智能生成内容的大规模模型批量生产同质化材料，或是紧跟热点话题，通过大规模矩阵式养号，严重破坏了社区环境。

　　 黑灰产团伙常常利用账号兜售灰色或违法的商品或服务，如提供“逾期协商”服务帮助债务人不当逃避债务，或者提供伪科学的“占卜玄学”服务。除此之外，这些团伙还通过同质化恶意营销的方式，在多个行业和领域进行违规营销，有时甚至组织数千个黑灰产账号发布虚假、低质、恶意拉踩、恶意导流的营销内容。例如，在旅游和教育行业，他们通过打造“素人人设”的矩阵号进行推广；在创业领域，他们通过发布虚假内容来诱导用户购买课程，并且还建立了大量的矩阵号来提供类似的误导性服务。 这种行为不仅严重扰乱了市场秩序，也对社会诚信体系造成了巨大冲击。虚假信息泛滥，不仅让公众难以分辨真伪，更可能导致人们在决策时受到误导，从而造成不必要的损失。同时，这种恶意营销手段也在一定程度上助长了非法活动的滋生和发展，进一步加剧了社会管理的难度。因此，必须加强对网络空间的监管，严厉打击此类违法行为，以维护健康的市场环境和社会秩序。

　　 据此前报道，去年11月，小红书宣布将在随后的两个月内全面开展针对黑灰产账号的整治行动，重点打击“横向评测黑灰产水军”和“黑灰产账号矩阵”。该行动的负责人表示，这将是小红书有史以来最为严格的黑灰产账号治理行动。