抖音平台宣布，近期加大了对涉及色情低俗内容的打击力度，尤其是利用人工智能技术生成的相关违规信息。
近期，抖音发现了一些用户通过AI技术发布诸如“单亲妈妈暧昧互动”、“美女魅惑舞蹈”和“穿着暴露的海滨度假照片”等违反社区自律公约的内容。对此，平台采取了严厉措施，并对4.2万条此类内容进行了处理，同时限制了1.4万个账号的不同等级权限。
除此之外，利用色情低俗信息为其他非法网站引流、销售淫秽物品的行为，严重触犯了包括《中华人民共和国刑法》在内的多项法律法规。对于这些违法行为，抖音会向公安机关报告。
在一起典型案例中，有犯罪团伙使用AI生成图片塑造“单亲妈妈陪读”的形象来推广色情内容，并因此被警方拘留四人。
平台在巡查时发现了一批利用AI技术创造的“单亲妈妈陪读”形象，这些账号通过发布带有性暗示的文字和视频吸引用户点击。经过深入调查后，平台确认背后存在犯罪团伙的操作痕迹，该团伙通过多种方式诱导用户访问第三方网站下载色情软件。为此，抖音立即删除了违规内容，并永久封禁相关账户，同时向警方提供了证据。
另一起案例显示，有人利用AI生成的美女图片引导观众点击收藏页以推广色情网站，共有339个账号因此被处理。
用户“AI**说”、“一**北”和“冰**式”等将直播间封面设置为AI制作的美女照片，并在头像中添加了如“看我的收藏”这样的字眼来引导用户浏览主页上的收藏项目，进而访问非法网站。平台已经清理相关违规内容并永久取消了这些账户的直播权限。
“奇**蓝”和“一**差”等利用AI技术制作着装暴露的女性形象，并持续发布如高空劈叉、魅惑舞蹈等内容；另一些用户则发布了多张聚焦私密部位的泳池度假照或海滨度假照。抖音平台已经删除了这些违规内容并对相关账户采取了不同程度的处罚措施。
抖音表示将持续改进治理技术和策略，提高识别和处理利用AI生成不良内容的能力，并呼吁广大创作者及用户遵守法律法规和社区规则，共同维护健康网络环境。如发现任何违规行为，可联系抖音官方服务热线或发送邮件至举报邮箱进行报告，平台将及时跟进处理。
抖音将不断升级治理技术和治理手段，提升对利用AI技术生成不良内容的发现、识别和处置能力。抖音也在此提醒广大创作者及用户，自觉遵守法律法规及平台规则，与平台共同抵制各类色情低俗、违规导流行为，维护健康的网络环境。如发现相关违规内容可拨打抖音官方服务热线95152，或发送至举报邮箱 [email protected]，抖音将及时跟进处理。
审核 | 周扬
校对 | 向歆悦