海报新闻首席记者 周凌峰 报道
进入暑假，未成年人触网时间增多，近日，记者从小红书获悉，平台持续加强涉未成年人有害内容和违法违规行为治理。
近期，小红书发布“清朗·未成年人网络保护”专项行动开展以来的治理进展。截至目前，平台已全面排查数十类涉未成年人高发风险，累计处置违规笔记8.4万余篇、违规评论10.5万余条、违规账号3571个。
据悉，针对未成年人风险场景，小红书启动了多项治理举措。一方面强化主动巡查与拦截，针对刻意使用圈层暗语、变种图片等恶意逃避审核的行为升级风险识别模型，实施前置拦截；另一方面通过全链路摸排，全面斩断有害内容传播链条，针对利用AI批量炮制猎奇短剧、传播“毒动画”资源等行为，对相关笔记、评论、群聊实施跨场景追踪与连带查处，切断传播与引流链路。
“对于屡教不改、恶意引流牟利侵害未成年人身心的账号予以从重处罚和线索上报，对其账号予以永久封禁、限制互动功能，对涉嫌违法犯罪的线索移交公安机关，依法追究其法律责任。”小红书相关负责人表示。
记者注意到，小红书发布的治理进展公告中，公示了专项整治期间查处的典型案例。其中，有的账号利用AI技术魔改经典动画并植入恐怖、低俗元素。如恶意生成恐怖版《天线宝宝》视频；还有的账号以“俱乐部招聘”话术为伪装，利用谐音发布招聘笔记，再用黑灰产暗语为诱饵，诱骗未成年人脱离平台不当交友。“在巡查中，我们还发现部分账号发布煽动自我伤害的图文。目前，平台已对相关账号实施永久封禁，相关有害笔记全量下架。”小红书相关负责人介绍道。
在刚刚过去的7月底，小红书还发布了青少年暑期网络治理进展。针对借儿童熟悉的动画、童话IP传播血腥、暴力、猎奇内容，以“玩梗”形式美化自我伤害的行为，以及针对不当利用未成年人形象引流牟利内容和账号，平台都进行了批量处置。
从平台整治动作来看，小红书对AI魔改视频的治理不仅针对未成年人，而是面向全站。
“我们已将AI魔改视频纳入常态化治理，以AI魔改四大名著等影视作品，以及利用知名动画形象制作严重歪曲原作、渲染暴力低俗内容为重点整治目标，并从存量清理、拦截策略增补与AIGC识别策略优化等方面推进。”小红书相关负责人表示，仅在7月，平台新增清理处置AI魔改视频违规内容1255条，处置违规账号27个，被处置账号涉及高频发布AI魔改《西游记》《甄嬛传》及《海绵宝宝》等儿童邪典动画内容。
在内容治理之外，小红书还对涉未成年人的商品与交易同步加强管控。记者了解到，平台已建立社区、电商等多部门统一的管控机制，一方面限制未成年人接触和购买盲盒抽卡、刀具等风险商品，另一方面严格管控商家利用未成年人形象兜售、宣传商品，以及上架不利于未成年人身心健康的商品。管控载体覆盖商品、笔记与直播等，平台通过机审策略、算法模型与人工审核等方式识别商品描述中的违规文字、图片、视频，对违规商品和店铺予以限流、冻结处置。
在公布专项行动治理进展和典型案例的同时，小红书也对用户做出了安全提示。例如，在卡通漫画可能被AI魔改为有毒内容场景下，小红书建议用户若发现画面怪异、暴力或引起不适时，立刻关闭并点击举报，切勿转发，也建议家长们留意孩子日常观看记录，优先设置“未成年人模式”隔绝风险。
据了解，进入未成年人模式后，所有浏览内容将通过大模型初筛结合人工逐一复审，确保均为积极健康、有正向价值的优质内容。目前，未成年人模式内容池已覆盖教育学习、知识科普、才艺兴趣、生活分享、安全教育和传统文化等板块。相比主端，未成年人模式使用独立内容池，推荐和搜索均在该内容范围内进行。
此外，未成年人模式关闭打赏、充值和交易消费等功能，屏蔽评论、私信、关注及陌生人消息；默认每日使用时长不超过40分钟，每日22时至次日6时暂停登录。该模式通过对内容、社交、消费和使用时长等多重保护，降低未成年人过度使用网络的风险。
