搜湖资讯

有抖音账号以“单亲妈妈交友”人设性暗示诱导用户,3个黑产团伙被捣毁

大众网

据“抖音黑板报”微信公众号8月19日消息,抖音发布《抖音暑期持续深入治理「色情低俗」的公告》,公告列出多个典型案例,其中,有账号塑造“单亲妈妈交友”人设、以“母子日常”为噱头,发布性感内容配以性暗示文案,诱导用户互动,疑似存在黑产团伙操纵。平台封禁相关账号,并收集线索上报至主管部门,最终,3个相关的黑产团伙被捣毁,29人被抓获。

公告介绍,近两周,平台共处置色情低俗类违规内容20.9万条,对7.8万个账号采取清除违规增长粉丝、取消营利权限、禁言、封禁等梯度处置,其中2384个粉丝过万的账号被依法依规处置。

近期,平台持续排查色情低俗相关风险,一方面,针对“人设噱头”“符号变体”“AI生成”等新型违规手法,迭代升级大模型识别与处置策略;另一方面,不断挖掘涉低俗性暗示的隐晦暗语,扩大识别覆盖范围。平台对违规内容从严处置,同时对高频违规账号加大处置力度;涉嫌违法犯罪的行为,依法固定证据并主动上报主管部门。

典型案例如下:

打造“单亲交友”人设色情导流,3个黑产团伙被捣毁。

平台巡查发现,有账号通过塑造“单亲妈妈交友”人设,以“母子日常”为噱头,发布性感内容配以性暗示文案,诱导用户互动。平台立即处置账号,深入挖掘发现,疑似存在黑产团伙操纵,引导用户跳转至外部下载境外色情App,实施色情导流。平台封禁相关账号,并收集线索上报至主管部门,最终,3个相关的黑产团伙被捣毁,29人被抓获。

以“桃色八卦”为噱头色情导流,2人被抓获。

平台在治理中发现,部分违规用户通过分享桃色八卦片段,吸引用户关注互动,平台对相关内容识别处置,并封禁相关账号。违规用户还以“看更多”“八卦细节”等名义,引导用户加入外部群组或添加私人联系方式,进而导流到境外色情网站实施诈骗,平台将线索上报主管部门,经有关部门侦查,2名犯罪嫌疑人被抓获。

直播间“符号化”隐晦传播色情低俗内容,2771个账号被回收直播权限。

主播“3**1”“7**5”在直播过程中,企图通过展示手绘表情、贴纸和低俗暗示词汇等隐晦符号,进行站外色情导流,平台立即中断直播,并对账号禁言;主播“小**子”“7**5”在直播过程中,利用符号和文字组合的形式,营造低俗暧昧氛围,试图逃避平台监管,涨粉牟利,平台已回收相关账号直播权限。

利用AI生成低俗内容,3816个账号被梯度处置。

账号“一**界”“喵**喵”利用AI生成技术,批量发布聚焦女性胸部、臀部、大腿的暴露着装内容,博取关注;账号“一**上”多次利用AI生成的两性暧昧内容引流;平台已处置相关内容,对账号采取禁止发布视频、禁言等梯度处置。

抖音郑重提醒,发布、传播色情低俗内容或者进行色情导流,不仅违反平台规则,更可能触碰法律法规红线,平台将持续管控治理,一旦发现涉及违法犯罪线索将同步上报相关部门。同时,抖音也呼吁广大用户与平台携手,自觉抵制违法违规与低俗不良信息,共建文明、健康、有序的网络环境。