Meta就Instagram血腥暴力视频风波致歉:政策调整背后的真相揭秘
2月28日消息,据《华尔街日报》报道,Meta公司于周三晚间向公众致歉,承认其技术故障导致大量包含暴力画面的图像和视频在许多Instagram用户的动态中传播,甚至影响到了未成年用户。 这种失误不仅暴露了平台在内容审核方面的漏洞,也再次引发了对社交媒体公司如何保护用户尤其是年轻用户的担忧。作为全球最大的社交网络之一,Meta公司需要更加重视其内容监管机制,以防止类似事件的再次发生。同时,这也提醒我们,技术的发展必须与责任并行,确保技术进步不会损害到社会的基本价值。
这些视频被推荐到了某些用户的Reels标签页上,部分视频带有“敏感内容”的警示标志,而另一些视频则没有任何特别提示。
《华尔街日报》的一位记者最近发现,其社交媒体账号中出现了大量令人不安的视频,视频内容涉及人员被枪击、在工业事故中受伤,以及在游乐设施事故中遭受伤害等场景。这些视频通常会连续播放,而它们来自这位记者并未关注的页面,这些页面的名字诸如“BlackPeopleBeingHurt”、“ShockingTragedies”和“PeopleDyingHub”。 这种现象引发了公众对于社交媒体平台如何监管用户内容的广泛担忧。尽管该记者并未主动订阅这些来源,但这些具有争议性的内容依然出现在其账号中,这表明当前的算法推荐机制可能存在漏洞,或者至少缺乏有效的过滤措施来阻止此类不当内容的传播。这种情况不仅可能对用户的心理健康造成负面影响,也凸显了网络平台上内容监管的重要性。如何平衡言论自由与信息筛选,成为了社交媒体公司需要认真思考的问题。
一些被推荐的视频在Instagram上的观看次数显著增加,有些视频的观看量甚至超过了该账号其他所有内容的总和,达到数百万次。这种现象表明,Instagram的推荐算法在很大程度上影响了用户的内容消费行为,不仅帮助小众创作者获得了更多的曝光机会,还可能改变了用户的观看习惯。这一趋势也引发了对于平台如何利用其推荐系统来塑造公众舆论的进一步讨论。
Instagram发言人表示:“我们已经解决了导致部分用户在Instagram Reels动态中看到不适宜推荐内容的问题,并为此向大家致歉。”不过,发言人没有透露具体受影响的用户范围。
发言人指出,这些视频的传播与公司修订内容审核政策、防止过度审查没有关联。公司首席执行官马克・扎克伯格表示,未来公司将集中精力处理“严重违规”的内容。
此外,Meta公司近日宣布,未来将不再主动扫描大量涉及违规内容的信息,并且计划减少对人工智能技术的依赖,转而主要依靠用户的正式举报来处理不当内容。目前,关于这一政策是否同样适用于涉及暴力和血腥内容的具体情况,公司尚未给出明确答复。 这样的转变可能对平台上的内容监管产生重大影响。一方面,这可能会导致一些不当信息在被举报之前传播得更广,增加了潜在风险。另一方面,这也可能有助于保护用户的隐私权,避免过度监控。无论如何,这项新政策的实施效果以及其对用户安全的影响仍有待观察。