儿童智能设备涉违规内容，催 AI 服务自查涉不良内容

AI服务应加强内容审核，呵护儿童健康成长

智慧科技

　　 12月19日消息，2024年将启动《未成年人网络保护条例》的实施。网信部门对未成年人网络保护工作极为重视。

　　 今天，微信公众号“网信中国”近日曝光了七种常见的网上侵害未成年人合法权益的行为，这些案例无疑引起了广泛的社会关注。在数字化时代背景下，网络环境中的安全问题日益凸显，特别是对未成年人的影响更需引起高度重视。这些典型案件不仅揭示了当前网络空间中存在的诸多隐患，也提醒我们应当加强监管，完善相关法律法规，以保护未成年人免受网络侵害。 同时，这也促使社会各界反思，如何通过教育引导，提高未成年人自我保护意识，以及家长和学校应如何更好地承担起监护责任，共同构建一个健康、安全的网络环境。只有这样，才能确保孩子们在享受互联网带来的便利与乐趣的同时，避免潜在的风险。

　　 巡查发现，近期，一些短视频平台上的部分账号传播了大量包含血腥、惊悚等负面内容的“沙雕动画”。有些账号甚至恶意篡改经典动画形象，发布如“暴力海绵宝宝”、“惊悚米奇”等令人不安的内容。还有一些视频以动画的形式，描绘校园欺凌场景，美化自杀和自残行为，这些内容对未成年人的身心健康构成了严重威胁。为此，网信部门依法对相关平台进行了处罚，并关闭了一批发布“沙雕动画”的违规账号。

　　 专项行动期间发现，有用户在未成年人分享日常生活内容页面的评论区，恶意发布低俗表情包和“找同城”等不良交友信息，企图对未成年人实施性引诱。在一些未成年人集中的频道版块、兴趣圈子等环节，部分用户使用分隔符、替代词等方式，发布传播低俗色情内容。网信部门指导网站平台持续加大对各类违规暗语的识别打击力度，深入清理涉未成年人违规外链信息。相关违法线索已转公安机关。

　　 根据网民举报线索，部分账号频繁发布涉及未成年人的不当内容，制造所谓的“网红儿童”，并通过违规引流获取经济利益。这些账号让未成年人拍摄校园霸凌视频，销售所谓的“小混混鞋”等商品；以未成年人结婚怀孕等话题为噱头，发布“07年宝妈在婆家带娃的一天”等内容；还让未成年人表演“做一个绿茶的自我修养”“良心没了可以挣更多”等具有不良价值观的内容，以此吸引流量并销售商品。网信部门依法对这些账号采取清理粉丝、取消营利权限、关闭等处置措施，坚决打击利用“网红儿童”牟利的行为。

　　 巡查发现，部分直播间售卖动漫、游戏等卡牌盲盒，鼓动诱导未成年人过度消费。个别商家使用“蜜桃”“欲望”“女神”等暗示词汇，诱导网民购买加热或遇水后显示低俗内容的“温感卡”“水感卡”。有主播在直播时刻意遮挡、快速闪现卡牌封面，违规售卖展示动漫人物敏感部位、挑逗姿势的低质盗版卡牌。网信部门指导直播和电商平台优化未成年人消费风险提示功能，对盲盒类产品强化年龄确认，平台主动开展店铺商家合规指导，累计处置违规直播 1700 余场，下架商品 2.8 万余个。

　　 专项行动期间发现，部分用户利用 AI 绘图技术，恶意将未成年人图片转换成儿童怀孕状态、身穿裸露服装等恶俗低俗漫画。一些“AI 恋人”类 App 存在涉未成年人不良人物角色，通过 AI 对话服务变相传播低俗信息。网信部门依法从严处置处罚问题突出的平台和账号，督促此类 AI 服务平台开展自查自纠，及时下线存在涉黄风险的 AI 人物，健全未成年人网络保护机制。

　　 巡查发现，个别社交平台开启青少年模式后，在搜索框搜索“正能量”“吃瓜”“福利”等关键词，搜索结果呈现色情引流信息，诱导未成年人添加群组、下载 App，传播涉黄涉赌内容。个别平台开启青少年模式后，存在擦边图片或低俗评论内容。网信部门依法从严处置处罚问题突出平台。同时，督促平台积极推进模式建设升级，强化评论、弹幕、留言等互动环节管理，严防信息内容风险。

　　 根据网民举报线索，一些儿童智能手表通过内置的语音问答功能，传播了危害未成年人身心健康的不良信息。某些学习平板电脑的应用商店提供了短视频App的下载服务，下载后会显示低俗擦边的舞蹈视频，评论区等环节还存在色情赌博网站的引流信息。对此，网信部门及时约谈了相关儿童智能设备企业，要求其进行全面的内容安全排查，包括设备自带内容和第三方App内容，并对违规企业进行了行政处罚。

　　 网信部门宣布，将继续通过“清朗”系列专项行动，针对可能对未成年人身心健康产生负面影响的新问题和新情况采取严厉措施，精准施策，不断优化未成年人的网络环境。 这一举措无疑是对社会关切的有效回应，体现了相关部门对保护未成年人健康成长的高度重视。在当前互联网迅速发展的背景下，未成年人接触到的信息复杂多样，如何有效过滤不良信息，营造一个健康、安全的网络空间，成为了一个亟待解决的问题。此次行动不仅有助于净化网络环境，还能够为未成年人提供更加积极向上的成长空间，值得社会各界的支持与期待。

　　 相关阅读：

　　 近日，360公司创始人周鸿祎就360儿童手表在使用过程中出现的错误问答向公众致歉。他表示，这些问题并非由人工智能技术引起，但为了提高用户体验，公司已经启动了对产品的整改和迭代工作。 这一事件反映了当前智能穿戴设备领域存在的潜在问题。尽管这些产品旨在为用户提供便利，但技术上的不足可能会导致用户在使用过程中遇到各种不便。360作为一家知名科技公司，在面对此类问题时选择公开道歉并采取积极措施进行改进，这种态度值得肯定。同时，这也提醒所有智能设备制造商，产品质量和服务水平是赢得用户信任的关键，未来应更加注重技术研发与用户体验的结合，以提供更稳定、更优质的产品。