近日有报道称，由于人工智能换脸技术的发展和应用日益广泛，利用这项技术进行非法活动的情况也变得越来越严重。一些不法分子通过AI换脸冒充受害者亲友实施诈骗行为，还有人用这种方法绕过人脸识别系统以侵入他人账户。
比如，在近期内蒙古鄂尔多斯警方破获的一起案件中，受害人李女士接到一个自称是她老同学“贾某”的人的电话。对方通过QQ向她发送了视频通话邀请，其中显示的是一位所谓的旧朋友的形象。
当李女士放松警惕后，“贾某”便以遇到紧急情况需要借用她的银行账户为由，诱骗其将40万元人民币转账给指定账号。幸运的是，警方及时启动止付机制，成功拦截了这笔款项。
此外，在南京警方侦破的一起使用AI换脸技术实施的诈骗购物案件中，受害人朱先生接收到一条短信提示有扣款验证码信息被触发，起初他认为是垃圾信息并没有重视。然而在四天后查看手机银行时才发现自己账户上已被某电商平台分两次扣除总计15996元人民币用于购买两部苹果手机，并且这些设备已经抵达深圳完成收货。
在接到报案之后，南京警方迅速锁定了犯罪嫌疑人符某并将其逮捕归案。在其租住的房间内，警方查获了38部手机及大量非法获取的公民个人信息和多款AI换脸软件，其中包含超过195万条个人数据记录。
奇安信公司的算法专家指出，在网络上已经形成了一种隐形的人工智能换脸黑色产业链。这条链路包括上游收集真实人脸资料和个人信息、中游使用各种技术手段训练AI换脸视频和制定诈骗脚本，以及下游利用这些工具实施犯罪活动。“AI 换脸”类犯罪往往需要获取受害者的通讯录等个人信息作为前提条件。
为了打击侵犯公民隐私权和其他网络违法行为，有关部门多年来持续开展了“净网行动”，成功摧毁了一批非法交易个人信息的平台。最近，中央网络安全办公室、工业和信息化部、公安部等部门联合发布了新一轮关于保护个人数据安全的工作方案，并重点关注App、软件开发工具包等服务产品以及互联网广告、教育、交通等多个行业领域内存在的违法收集使用个人信息问题。
专家认为，在保障网络环境健康发展的过程中，既要依靠法律制度框架的完善也要结合技术进步来共同推进。一方面法律法规可以为技术的应用创造良好的条件；另一方面技术创新则能够更好地实现法规的要求和目标。随着人工智能技术的进步，利用此类手段进行犯罪的行为将会逐渐减少。