封面新闻记者 郝莹
Security Hero公司在2023年的报告中指出，在网络上传播的深度伪造视频中有超过95%是涉及色情的内容，而这些视频中的主要人物绝大多数为女性。
视频里的主角包括明星、网红以及像塔塔这样仅仅在网络上分享过个人生活照片的普通女孩。
塔塔性格开朗，和许多大学生一样喜欢拍照并将其上传至社交平台记录自己的生活点滴。她从未想到自己随手发布的一张照片会被他人利用人工智能技术篡改成不雅图片。
当得知这一情况时，塔塔感到非常恶心与沮丧，并且面对这种情况不知所措。
她的照片被盗用生成了非法内容
今年2月27日，一名网友通过私信告知塔塔她发布在QQ空间上的游玩照片已被某专门分享色情图片的应用软件恶意篡改并传播开来。起初这些图像是较为隐蔽的，因此并没有引起她的重视。
直到3月份，塔塔发现该平台发布了更多更加露骨的照片后才意识到事情的严重性，并且她也找不到是谁盗用了自己的照片。
告知此事的好心网友通过图像识别软件找到了塔塔在抖音上的账号，并且还帮她联系了一名同样遭遇的受害者。
经过调查，塔塔发现了一个陌生人的QQ空间访问记录，在这名男子发布者账户的名字下有一个人曾浏览过她的个人动态。“我们并不认识对方，他只是查看了我的空间。”通过追踪社交网络平台，她们锁定了该名男子的真实身份。此人出生于2003年，并在西南某城市的工厂工作。
其他在网络上遭受类似骚扰的人也在寻求帮助
塔塔和另一名受害者整理了有关嫌疑人的信息及证据，在当地城市向警方报案，希望对方能够删除非法图片并赔偿她因该事件受到的心理伤害。
在提到维权过程中的困难时，塔塔回忆起自己原本开朗的声音变得沮丧。作为AI技术被用于制造色情内容的受害者之一，她深感痛苦的不仅是图像篡改后的传播，更是举报和维权方面的难度。
过了一周，当塔塔再次前往派出所询问案件进展时，警方告知照片已经由当地警方处理了，并表示此事无法立案，只能按照侵犯肖像权进行调解。另一位受害者则在该男子所在的辖区报警，警察要求加害者删除了相关图片。
警方对侵权行为的处理意见
对于塔塔提出的道歉和赔偿请求，警方建议她通过民事诉讼来维护自己的权益。“然而我只是一个学生，没有足够的经济条件去起诉他，并且也无法到其他地方去找这个人。”
“我还是决定要尝试着为自己争取一些东西。”最终，塔塔选择直接联系了施害者。经过沟通后，对方认错、道歉并进行了赔偿，并主动联系平台删除了所有非法图片。
尽管没有让对方承担法律责任，但塔塔觉得这是一场小小的胜利，她为此感到骄傲。
塔塔的经历反映了许多AI生成色情内容受害者的遭遇
相较于其他人可能完全不知情的情况下被侵犯隐私，塔塔至少完成了找到施害者并让对方删除图片、道歉和赔偿的艰难步骤。然而还有很多受害者并不知道自己已经成了网络上非法传播的对象。
近年来，北京市千千律师事务所一直关注和研究AI换脸技术引发的相关侵权行为以及未经同意散播私密影像等问题。
律师汪姝文表示，在实际操作中，受害人在维权过程中最大的困难在于确定加害者的身份并提供证据证明其实施了人工智能图像篡改的行为。“若无法查明施暴者的真实信息，则难以立案。”
当明确了加害人身份及行为后，根据具体案情可适用传播淫秽物品罪、侮辱罪或诽谤罪等法律规定。
近年来司法实践已经有一些相关的案例。例如在杭州市男子虞某利用AI技术制作并传播色情视频以谋取利益一案中，法院判处其有期徒刑七年三个月，并要求其赔偿六万元用于个人信息保护公益事项；在张家港王某甲使用被害人于某的人脸信息制造大量不雅图片并在境外网站上发布一案中，则根据诽谤罪对其判刑一年三个月。
在杭州虞某案中，尽管警方迅速锁定并处理了加害人，但部分受害者并未得知此事也没有获得赔偿。而在张家港王某甲案适用的是诽谤罪，它需满足特定条件才能构成刑事犯罪。
对于侮辱罪而言，则是自诉案件，意味着受害者需要自己搜集证据并向法院提起诉讼，这无疑是对受害者的二次伤害。许多像塔塔这样的受害者由于经济和时间原因往往选择放弃起诉。
影像性暴力造成的不仅是身体上的伤害，还有心理层面及社会关系的破坏。汪姝文指出目前立法上并未对“AI深度伪造行为”设立专门罪名。
韩国在打击影像性犯罪方面积累了丰富的经验。例如，韩国在2020年针对“N号房事件”制定了相关法律，规定制造、传播非法色情视频为刑事犯罪，并逐步提高其刑期至七年有期徒刑；观看和持有此类内容同样被视为违法。
在我国的实践中，由于很多违法行为发生在国外平台，警方查处难度较大。如果能够建立有效的协作机制降低执法成本，则可以帮助受害者更快地获得帮助和支持。
塔塔表示，在她报警时也曾遭遇部分网友指责不应在网络上发布个人照片。“我认为真正需要受到谴责的是那些盗取他人信息用于非法用途的人。”
对于塔塔而言，尽管她的生活并未因此事受到太大影响，但她认为保护自己的权利至关重要。
塔塔告诉记者，在报警时，她一度被小部分网友指责不应该发布照片在平台上。“我当时很生气，应该惩罚的是那些偷盗我们照片去做违法乱纪的事情的人，而不是劝正常分享生活的人把自己缩在壳子里。“对她而言，照片被盗没有过多影响到自己的生活，只是一个”小插曲”，但保卫自己的权益非常重要，公平非常重要。
“做错事的人，才应该被惩罚”，塔塔说。