近日，极目新闻对当前社会上大量存在的“AI霸总”视频现象进行了调查报道。
一些人只需五分钟就能制作出一个这样的视频，并通过多个账号同步推送，诱导消费者购买商品或虚拟产品，从而在一天内获得可观收入。
目前，许多短视频平台上有大量的“AI数字人视频”，不少中老年女性深受此类视频影响，误认为视频中的成熟男性会陪伴在她们身边，主动为其消费。
近期，多位老年女性的家属向媒体表示，她们的家人在不知情的情况下，短视频账号已经被“AI霸总”视频所占领。
经过调查发现，这些所谓的“AI霸总”实际上是AI生成的数字人，视频中的数字人通常在客厅或办公室里出现，以儒雅深情的形象吸引观众，常常配以煽情的话语，以吸引中老年群体的关注。
极目新闻还报道了一位80岁的老人，她误以为视频中的虚拟角色可以成为她的伴侣，因此花费了大量金钱购买虚拟商品。
同时，也有一些婚恋机构利用AI数字人来吸引潜在客户，通过发布虚假信息来获取经济利益。
例如，某婚恋服务公司在社交平台上发布数字人照片，并承诺提供真实的相亲服务，但当客户试图获取更多信息时，却需要支付高额费用。
这种行为不仅侵害了客户的权益，还涉嫌欺诈。
陈真女士的母亲李小华在被一家婚恋机构诱骗支付了1000元后，发现对方并未提供任何实质性服务，这让她十分气愤。
一位法律专家指出，利用AI数字人来欺诈老年人的行为已经触犯了法律，且这种行为可能构成电信网络诈骗罪。
马俊哲律师表示，如果金额达到一定标准，该行为可能构成诈骗罪，而批量制作和运营AI数字人账号的行为可能构成组织化犯罪。
张玉兰购买产品截图
武汉大学老龄科研基地科研综合办公室主任陈昫认为，中老年群体对数字技术缺乏了解，容易受到虚假信息的影响，从而导致被骗。
同时，老年人对温情、尊重和爱的需求，使得一些居心不良者能够利用这些需求来行骗。
张玉兰打赏推文截图
石人炳教授指出，当老年人对新科技认知有限时，这类骗术便有了可乘之机。
对于应对措施，陈昫主任提出，可以通过社区力量开设智能手机教学班等形式，帮助老年人提高辨别数字人的能力。
此外，子女和亲友也需要向老年人普及有关风险的知识，使他们能够更好地保护自己。
平台方也应加强监管，通过增加风险提示等方式，帮助用户提高警惕，共同构建一个综合防范体系。
虽然AI数字人给人们的生活带来了便利，但它们同时也给一些不法分子提供了机会，利用老年人的心理需求进行欺诈。
因此，社会各界应共同努力，通过立法、监管和技术手段，来打击这种新型的诈骗行为，保护老年人的合法权益。
AI霸总直播截图
从形象来看，这类数字人已经成了一种风格：梳着侧背头、身着正装，一口一句姐姐叫着。一名被阿姨们亲切称作“海弟”的博主，拥有7.7万粉丝，每天直播数小时，其直播间里仅展示着一张穿着红色短袖衬衫、手持话筒的照片，照片上写着“欢迎姐姐来听弟弟唱歌，感谢姐姐对弟弟的喜欢”的文字，直播间里就会有不少人送礼物，甚至还留言：“我爱你，不知道你爱我吗？”
该博主日常发布的视频中，也常有“姐姐，之前有很多人买了弟弟店里的东西都觉得好用，姐姐点开左下角的小黄车，买些东西支持一下弟弟”之类的话语，不少中老年女性就会在评论区回复：“支持支持。”
“中老年这个群体真有意思，又能（用来）做数据，又听话，看他们的私信，甚至觉得有点可爱。”这是AI数字人行业“老手”阿明写在朋友圈的一段话，他打造的AI数字人形象让许多中老年人步入陷阱。
近日，极目新闻记者以学员的身份联系到阿明，他向记者畅谈了AI数字人带货的种种内幕。“想要做AI数字人就要做好违规的心理准备，它并不是一个特别长期的赛道。”据阿明介绍，AI数字人带货最主要是“能接受违规”，只要照着流程操作，不可能带不出去货的。
阿明口中所谓的“流程”，实际上就是用软件制作AI短视频，然后在多个社交平台发布，之后上架商品到橱窗，自然会有下沉用户下单。至于商品质量、售后、平台判定违规等问题，阿明则淡然地表示：“这些都不用担心。你只管卖，今天卖，明天去结款。”而一般变现的形式，为打赏和带货两种。
随后，记者收到阿明发来的一个案例账号。该账号主页显示，在已经发布的18条AI数字人短视频中，主角都为“阿姨最爱的海海”，内容大多为海海向阿姨们袒露心声，言语中满是对阿姨们的关心和称赞，尽管视频下方大多标注了虚拟内容，请理性观看，但仍有大量用户留言，并对海海表示关心。
运营的账号截图
在陆续发布多个视频吸引了一些粉丝后，账号发布第9条视频时开始尝试带货。视频中，海海向阿姨们介绍一款泡脚包，希望大家能购买。于是，许多阿姨抱着支持的心态纷纷下单。
据阿明所述，类似这样的案例还有很多，这还只是最近一个新学员所做的。阿明的朋友圈还分享了很多“成功”的学员事迹。“做得好的话，一天几千块不是问题。”阿明表示，商品销售额的50%都是佣金，比如卖出60元的商品，30元都是学员的，只要流量足，大家也有动力做。
当然，要成为学员，也会有一定的门槛——交钱。当记者聊到如何才能学习AI数字人带货时，阿明表示“要加钱”，998元每人，包括如何制作视频、运营账号、和供货商对接实现变现等。
据阿明介绍，这些供应商都是利润几千万元的大厂，稳定合作很多年了，学员们后续只需跟供应商对接，对方核对账号的销售额就会直接打款，没有中间商赚差价。不过，阿明也提到这种账号带货在多个平台的确是违规的，经常会被封号，所以学员需要在多个平台带货，来回换号，也可以注销重启。
同样入行数年的黄兴也向记者坦言，他主要做中老年情感赛道的视频带货，手下有几百名学员，“建国”“小海”等数字人形象他都深度参与打造。“我们一般会运营几十个视频号，这些账号百分之百会违规，一个号最多用5天，核心就是靠视频号带货赚佣金，一天至少能赚2000元。”黄兴说，生成一条数字人视频只需要5分钟，且每条视频不能重复，几十个账号会持续更新。如今他已不再使用数字人形象，因为这类形式容易违规，而是直接用此前中老年女性熟悉的“建国”“小海”的声音，搭配AI生成的引导下单文案。
当记者直言“这不就是骗老年人吗，利用情绪价值赚他们的钱”，对方表示“这么理解也行”。记者继续追问“是不是卖的都是劣质产品”，他则回复：“反正吃不死人。”
部分婚恋机构借AI数字人引流收费，有人被骗1000元
调查过程中，记者还发现，除了常规的直播、带货等形式外，不少婚恋机构纷纷用“AI霸总”数字人来迷惑用户。在某社交平台，记者关注几位“AI霸总”账号后，即刻收到对方私信发来的链接卡，提示“点击卡片添加，可发送男士资料”。
随后，记者以中老年女性的身份，按链接卡提示添加了四川某婚恋服务公司的企业微信，向对方提出想要获取视频中“AI霸总”的联系方式，对方则表示“需要电话沟通具体的收费标准”。重庆某婚恋服务公司的工作人员还声称，这些数字人都是“真实的”，如果想获取联系方式，需先支付4999元。
3月10日，记者以相亲者的身份在视频平台私信了一个名为“喜有家-派幸福”的账号，对方立马发送了一张企业微信名片。记者添加后询问对方是否有“AI富婆”的联系方式，对方则直接要视频聊天，记者以不方便的理由婉拒后，对方再未回过消息。11日，记者在该平台发现，“喜有家-派幸福”的账号已显示被封禁。
来自广西的陈真告诉极目新闻记者，他的母亲李小华曾被贵州某婚恋机构骗取1000元。陈真提供的社交账号显示，该婚恋机构常发布数字人照片，并附带相关个人资料。李小华按要求添加对方微信后，对方称可为其介绍对象，随后引导其转账，李小华转账1000元后，对方却一直以整理资料为由拖延。
李小华向婚介所转账截图
“他们发那些视频，只是把AI数字人做出来发布引流，还配上一些比较肉麻的话。”陈真说，转账后对方的回复基本都是“第二天会有工作人员回复”，始终没有提供具体的相亲服务。“母亲也不好意思报警，就当花钱买教训了。”
随后，记者添加了这家婚恋公司的工作人员，对方称“这些是广告，具体要问业务部门，照片中的人可能是请的模特。”当记者坚持要与照片中的人相亲时，对方才坦言，照片中的是用于引流的AI数字人，无法介绍，只能介绍其他人。
3月11日，记者又以同行身份联系上这家婚恋公司的老板。他表示，其公司仅将数字人用于引流，同时表示目前婚恋行业部分同行存在乱象，有机构借AI数字人或找模特冒充真人，向客户谎称是真实的相亲对象，收取高达1万元的会员费，后续仅安排人员与客户短暂聊天，便以彼此不合适为由结束对接。
AI数字人围猎触多重法律红线，情感关怀与制度约束缺一不可
AI数字人围猎中老年群体的背后，实际上有着更深层次社会问题和法律问题。
广东哲清律师事务所马俊哲律师告诉极目新闻记者，从法律定性与监管治理来看，利用AI数字人围猎老年人的相关行为已触碰多重法律红线，且存在明确的监管依据与改进方向。法律层面，此类行为若以非法占有为目的，通过虚构身份、情感诱导等方式骗取钱财，完全符合诈骗罪构成要件，同时因借助网络通信工具面向不特定多数人实施，属于典型的电信网络诈骗。
“根据司法解释，诈骗金额达到3000元至1万元以上即达到刑事立案标准，即便金额略低，因针对老年人这一特殊群体，情节恶劣的仍可能被立案侦查。而批量制作运营AI数字人账号，形成‘技术开发-引流获客-实施诈骗-资金变现’的完整链条，已构成组织化、分工明确的黑灰产业链，是司法机关全链条打击的重点。”马俊哲律师认为，各相关方均需承担对应法律责任：数字人技术提供方若明知他人用于诈骗仍提供支持，可能构成诈骗罪共犯或帮助信息网络犯罪活动罪；运营者作为核心主体将被以诈骗罪追究刑责，组织者、惯犯会依法从严惩处；直播平台未履行审核义务需承担过错责任；婚介机构若参与虚假宣传、诱骗转账，将面临刑事、民事及行政多重责任。
武汉大学老龄科研基地科研综合办公室主任陈昫认为，中老年群体被AI数字人蒙骗应当从多维度来看，首先是老年人自身存在的脆弱性问题，它既包括生理健康层面，同时也有心理认知层面，对于数字人缺乏辨别鉴伪能力；其次从需求层次来说，老年人会有对温情、尊重、爱的需求，这些需求的存在，客观上可能使一些违规不法行为钻空子。最后是老年人们有社会经验的相对刚性，他们可能会认为照片、视频都很难造假，类似这样既有经验判断，可能会影响他们对于数字人诈骗等新兴形态诈骗的警惕性和自我防御意识。
华中科技大学社会学院教授石人炳补充道，一些居心不良者正是利用老年人的心理和情感“需求”行骗，以AI拟人化技术为工具行骗。当老年人对新科技认知有限，社会对相关行为的法律打击没有跟上时，这类骗术就会大行其道。
对于应对措施，陈昫表示，相关治理工作的核心应当是弥合数智发展和老年生活之间的沟壑。首先是可以借助社区的力量，在社区开办兴趣培训班或者智能手机教学班等形式，告诉老人如何来辨别数字人，从而形成自主的防范意识；第二是作为子女、亲友要告诉老人，涉及钱款不要轻易付出，同时也要信任他们能够逐渐对AI数字人产生认知，而且切记不要批评老人，要鼓励他们多接触AI等新生的事物，并告知他们其中的风险所在，通过家庭信息流的方式来构筑老人防范意识的前线。此外，立法、平台、政策等多方面都应当协同发力，打击AI诈骗，平台也要加强监管，特别是对于像中老年用户在看视频的时候，可以适当增加一些风险提示，从而共同构筑一个综合的防范体系。
（文中除马俊哲、陈昫、石人炳外均为化名）