当前，生成式人工智能技术在各行各业得到广泛应用，从视频制作到聊天助手，极大地丰富了人们的生活体验。然而，一些不良商家却利用这种技术牟取非法利益，违背了技术伦理与法律法规底线，制造含有色情内容的AI作品，破坏网络环境和社会风气。面对这样的情况，监管机构和公众不禁要问：这些违法的行为是如何形成的？又是如何逃避监管的？
单凭一张图片就能生成涉黄视频吗？
各大平台上有商家公然兜售制作此类非法内容的教学指南。
消费者提供的线索显示，记者通过网络搜索发现有人公开销售名为“使用AI技术创造色情擦边视频”的教程以及相关提示语。他们声称仅凭一张图片或几句描述就能帮助用户生成满意的成人内容。
教程页面通常冠以诸如“制作美女视频”、“最大尺度的AI作品”等标题，并附有色情场景的画面，鼓励网友学习如何运用这些指导来创作非法视频。
这些指南中还包含了一些规避监管的方法建议，例如推荐使用境外的图像生成软件，或者在本地电脑上离线运行程序，以此避免被监控和追责。
即使提示词表述模糊也能逃避审查
许多AI应用程序存在生成非法内容的风险漏洞
在多个社交平台上可以看到售卖各种色情视频制作“提示语”的帖子。卖家介绍称，购买者只需将这些提示语复制到各大AI视频创作工具中，就能获取相应的色情内容。
为了验证这一现象，记者以较低的价格从两家不同的店铺购买了两套提示语。打开文件后发现，其中的描述非常详细，包括发型、服装、体态等细节都被一一描绘出来，并且还会将敏感词汇翻译成英文来躲避审查机制。
记者对市场上常用的十款AI应用进行了实际测试，结果表明，如果输入较为露骨的提示语，则大多数软件都会被审核系统拦截。然而，只要稍微修改一下措辞使其更加隐晦一些，就有可能绕过限制顺利生成内容。
在名为“哩布哩布AI”的一个应用程序中，记者使用了从网络上购买到的提示词进行测试，几分钟内平台便产生了一个半裸女性跳舞的视频，并且没有触发任何监管机制。这种问题同样出现在其他主流的AI应用平台上。
此外，在市面上还存在专门利用AI技术制作色情内容以牟利的应用程序。依据消费者的举报信息，记者发现了一款宣称“无需安装就能换脸”的软件，用户付费后可以凭借一张照片生成全裸图片和视频。
境外来源的涉黄AI工具绕过监管流入国内市场
包含不当内容的软件可能诱导未成年人沉迷其中
由于AI的高度定制性，它能够以一种非常人性化的方式存在。通过不断输入数据训练，用户可以将虚拟伴侣打造成为自己理想中的形象，因此越来越多的年轻人开始尝试与这些智能体建立情感联系。
然而业内专家指出，大多数这样的软件其实都是来自境外的产品，并且内容尺度较大，充斥着色情信息。由于这些应用不能在国内的应用商店下载安装，一些不法分子从中看到了商机，开发出各种灰色渠道帮助国内用户绕过监管限制获取使用权限。
了解内情的人士透露，这类AI聊天软件虽然来自国外市场，在获取大量本地客户时通常会采取发放金币或充值返利的方式激励老顾客推荐新用户，并为用户提供发帖引流的帮助，以此来躲避审查并从中获利。
在对话中，系统会自动生成三种不同的回复选项供用户选择，以提供更好的聊天体验。然而这些交流内容大多围绕着色情话题展开。这种即时互动、个性化的服务吸引了大量年轻人沉浸其中，甚至包括未成年人群体。
我国正加快构建人工智能治理框架
专家指出，App上架需要经过严格的审核流程。如果是境外的软件，在手机下载后可能会带来安全风险或信息隐患。
根据网信办在2025年4月发起的“清朗·整治AI技术滥用”专项行动，明确表示将重点整治那些未履行大模型备案或者登记程序就向公众提供内容服务的人工智能产品。
《人工智能拟人化互动服务管理暂行办法》于今年四月初正式发布，《办法》进一步规范了安全评估和算法备案的要求，并且对未成年人及老年人使用相关服务作出了具体规定。
复审｜陈吉康
终审｜王树伟