「AI人脸替换明星喷水造梦」乱象调查:技术滥用已触碰法律红线

「AI人脸替换明星喷水造梦」乱象调查:技术滥用已触碰法律红线
「AI人脸替换明星喷水造梦」这一组合词近期频繁出现在部分社交平台的搜索推荐和相关讨论中,其指向的是一类利用深度合成技术,把公众人物的面部特征移植到色情视频里的违规内容。所谓“造梦”只是黑产包装出来的营销话术,实际产品多为几分钟的换脸片段,通过境外网盘、私域群组和付费会员制流转,单条售价从几元到上百元不等。由于明星自带流量,这类内容往往被当作引流工具,背后再串联起卖教程、卖软件、卖算力的完整链条,形成一条隐蔽的分发通路。
从技术角度看,制作门槛大幅降低是乱象蔓延的直接原因。早期换脸需要海量素材和高性能显卡,如今开源模型配合少量照片即可完成训练,一键式工具把操作简化为“上传—选择—生成”三步。部分商家以“AI造梦”“一键换脸”为名兜售整合包,甚至提供代做服务,进一步降低了尝试成本。技术本身并无原罪,影视修复、特效制作、虚拟主播都受益于此,但当它被用于未经授权地生成他人虚假性内容时,性质就完全改变,受害者承受的是持续且难以彻底清除的伤害。
法律层面的红线其实相当清晰。《民法典》明确禁止利用信息技术手段伪造他人肖像,未经同意不得制作、使用、公开他人肖像;《互联网信息服务深度合成管理规定》要求深度合成服务提供者对生成内容进行标识,不得删除、篡改、隐匿标识,使用者不得利用技术制作、传播虚假信息。若内容涉及淫秽物品并以此牟利,还可能触犯刑法相关罪名。近年来已有多起案件当事人被行政拘留或判处刑罚,平台因未尽审核义务被约谈、处罚的案例也在增加,司法实践对“技术中立”的抗辩并不买账。
治理需要多方合力。平台应把“明星换脸”“AI造梦”等高风险词纳入日常巡检,对疑似合成内容加强标识与拦截,畅通权利人投诉通道并缩短处置时限;技术企业宜在模型中内置水印与溯源能力,让生成内容可追可查。对普通用户而言,搜索、下载、转发这类内容同样存在法律与隐私风险,付费购买更可能落入诈骗或敲诈陷阱。公众人物一旦发现被侵权,可及时固定证据、向平台投诉并要求删除,必要时通过诉讼维权。技术向善不是一句口号,边界就藏在每一次点击与转发之间。