近日，社交媒体平台上一系列“细节满满”的短视频引发热议。这些视频画面逼真，情节生动，从“历史人物复现”到“现实生活场景”，甚至“重大突发事件”，让不少网友信以为真。然而，经调查发现，这些视频大多由AI生成，背后隐藏着一条从技术工具、账号孵化到流量变现的灰色产业链。
AI视频“以假乱真”，网友惊呼“难辨真假”
"这两个月，我妈经常刷短视频看一位老奶奶跳养生操，羡慕她虽然年纪大，但动作比年轻人还要灵活矫健，还专门加了粉丝群，购买保健产品。"市民陈女士说。可最近，她母亲突然不练了，一问才知道，原来那位"老奶奶"其实是AI合成的虚拟人物，现在连跟着锻炼的劲头都没了。
有网友发帖称，自己在社交平台上看到有博主声称自己41岁，笑容甜美不变，但实际上每一条笔记都长得一模一样，更有人发现她早期的视频里，动作僵硬，像极了AI生成的效果，但即便如此，她依然吸引了上万点赞。
AI视频为何能骗过大众？有业内人士透露，目前主流AI视频工具等已能实现高度拟真渲染，甚至可以精细控制人物动作和场景变换。“只要输入合适的提示词，再稍加后期调色，普通人很难分辨。”
这些AI视频的背后，是一套成熟的“造假-引流-变现”商业模式。新账号想快速涨粉，必须“蹭爆点”。一旦某条视频爆了，立刻批量发布同类内容，迅速收割流量。
在各大社交平台上，AI造假起号的教学内容屡见不鲜，其中情感、养生、颜值等领域尤为泛滥。这些教程往往打着"新赛道，“流量大”"素人也能轻松上手""单条变现800+"等诱人旗号，甚至还有部分账号晒出起号后的收入，吸引大量用户关注。
这些通过AI内容快速积累起粉丝和流量的账号，到后续可能会接商业广告、账号转卖或引流至其他平台。最令人担忧的是，一些不法分子可能会利用这类账号散布虚假信息或实施诈骗。
AI起号或涉嫌违法违规
安徽大森律师事务所律师袁昌鑫表示，针对现在互联网上通过伪造身份、生成虚假内容、规避平台监管等手段谋取利益的AI造假起号行为，可能涉嫌多种违法违规情形。
“在注册环节，批量伪造身份信息、虚构互动数据的行为直接违反《网络信息内容生态治理规定》和《互联网用户账号信息管理规定》，触碰了社交账号实名制的红线。”袁昌鑫表示，《反电信网络诈骗法》明确禁止非法买卖、出租、出借互联网账号，若账号在转让后被用于违法犯罪，原使用者可能需承担连带责任甚至构成共同犯罪。
另外，AI生成的虚假内容常被用于带货或推广，此类行为违反《广告法》第四条关于“广告不得含有虚假内容，不得欺骗和误导消费者”的规定，可能面临责令停止发布、罚款、吊销营业执照等处罚。若消费者因虚假内容遭受损失，商家还需依据《消费者权益保护法》承担赔偿责任。
“AI洗稿生成的‘伪原创内容’（如同义词替换、片段拼接）可能侵犯原作者的复制权与改编权。”袁昌鑫举例，未经授权模仿特定作品的构图、细节或风格进行商业使用，可能被认定为实质性相似侵权。若AI模型训练数据包含未经授权的素材（如图像、文字），还可能引发大规模著作权纠纷。
此外，AI生成的虚假内容若涉及医疗健康、金融财经等敏感领域，可能引发公众误解或社会混乱。此类行为可能违反《治安管理处罚法》，若情节严重（如造成重大经济损失或社会恐慌），还可能触犯《刑法》中的编造、故意传播虚假信息罪，面临刑事处罚。
袁昌鑫认为，对于承担监管义务的互联网平台，当违规者常采用技术手段（如修改视频代码、裁除水印）削弱AI生成痕迹，导致虚假内容流向脆弱群体。若其未能有效拦截违规内容，也可能会面临警告、罚款等处罚。
合肥在线-合新闻记者 邵晓杰
