转自：北京日报客户端

“你是温峥嵘，那我是谁？”

演员温峥嵘本人浏览短视频时，意外发现“自己”正在直播。她在评论区提出质疑后，被拉黑并踢出直播间。而对方仍在用“她的脸”直播带货。

温峥嵘近期遭遇的“冒牌直播”事件，是AI换脸技术滥用的典型写照。

11月14日，中央网信办官方账号发文表示，有网络账号利用AI技术仿冒公众人物形象，在直播、短视频等环节发布营销信息，误导网民，涉嫌虚假宣传和网络侵权，严重破坏网络生态，造成不良影响。网信部门严厉处置一批违法违规网络账号。同时，督促网站平台发布治理公告，举一反三，开展集中清理整治，目前已累计清理相关违规信息8700余条，处置仿冒公众人物账号1.1万余个。

《法治日报》记者近日调查发现，AI换脸与声音克隆的教程及服务在网络平台流通。记者在各类社交平台以“AI换脸”“声音克隆”等为关键词搜索时，虽然平台会弹出官方提示，提醒用户使用需“合法合规、注意辨别”“切勿轻信、谨防诈骗”，但相关内容仍在网络空间大量存在。

比如，有相当数量以“AI科普”为标签的账号在各平台公开分享换脸教程。这些视频通常详细列出可访问的网站地址，逐步演示操作流程，并附有技术细节说明，如建议用户“尽量保证替换素材与原素材的人物尺寸一致、画面干净无遮挡”，以保证生成效果。

根据教程指引，记者登录相关网站验证发现，部分平台确实免费提供AI换脸或声音制作服务，支付几十元购买会员后，还能解锁去水印、高清放大等进阶功能。

除公开教程外，更为隐蔽的交易正通过网盘渠道进行。

记者观察到，有一些打包出售的“完整教程”价格低至8元，且卖家声称“没有市面主流软件那么多限制”。这类教程通常包括云端工作流地址资料和详细的操作说明，以及图片去AI化、舞蹈动作模仿、人脸精修等扩展功能与相关的提示词教学。

声音克隆类的教程售价低至9.9元，并在宣传中强调“支持任何形象和声音”。记者询问商家了解到，只要购买此安装包，无需注册会员即可免费破解使用对口型、克隆音色等功能。据商家描述，只需提供一段音频文件，系统便可以在无身份认证的情况下进行克隆，单次支持30秒音频，且不限次数。

为验证此类教程的实际应用效果，记者购买了一份标价8元的换脸教程。该教程包含一段5分钟的视频教程和两份文字材料，明确提供了平台访问链接、新用户福利信息和操作步骤，并特别注明“对敏感词限制极少”“生成内容无水印”。

记者发现，该平台提供多种功能模板，内容涵盖替换视频人物、给人物指定部位更换衣物、对图片中人物身体部位进行放大或动态处理等不同功能。每个模板均配备相应的提示词教学和详细操作步骤，用户只需上传参考图片、视频或待处理素材，等待一段时间即可生成内容。

记者实测使用一段时长5秒的视频进行换装操作，约3分钟后成功生成视频。画面中，人物动作与神态还原度很高，被遮挡部位的服装贴合效果也较为自然、精准。

记者注意到，该平台内容生成功能采用运行时长计费模式，每秒收费0.2虚拟币。教程中附有专属邀请码，使用者可凭此免费领取1000虚拟币。平台还设置了虚拟币奖励机制：每天登录赠送100虚拟币，邀请新用户可获500虚拟币。

此外，在电商平台上，有商家为AI换脸服务披上伪装售卖。

在某购物平台，记者直接搜索“AI换脸”，显示无任何结果。但记者观察到，有部分商家会在商品详情页用表情符号隐喻其能提供换脸“服务”；也有商家以“啥都能做”“不限视频内容，懂的都懂”为宣传语，暗示私聊客服了解商品详情。

记者了解到，10秒换脸视频报价从15元至300元不等。例如，有商家提出，20秒内视频（包括仅生成音频的）统一收费80元；部分商家还推出298元200分钟生成时长、490元年卡等套餐，承诺“一对一教学指导”，宣传语中不乏“让朋友客户难辨真伪”等诱导性表述。多数商家仅核查素材内容，对用途与来源未作甄别。

专家说法

近年来，利用知名人士形象进行AI换脸换声的视频层出不穷，一些有心人士将其用于直播带货甚至诈骗。这种行为可能触犯哪些法律法规？

京都律师事务所律师常莎：

通过AI技术生成明星抑或普通民众的人脸形象，前提是要采集、提取其面部特征生物识别信息。这些信息属于法定的敏感个人信息，侵权方未经授权使用，构成对公民个人信息权益的侵害；还可能侵犯他人肖像权、名誉权等。

若平台“明知”侵权方利用AI换脸实施诈骗、销售假冒商品等犯罪，仍为其提供帮助，则可能构成帮助信息网络犯罪活动罪。

AI换脸直播事件中，侵权方的直播带货属商业广告行为，其通过AI伪造明星肖像与声音，营造名人本人推荐的虚假表象，使消费者因信任明星作出购买决策，违反诚信原则，符合虚假广告认定标准。同时，AI换脸行为还可能涉嫌不正当竞争。

此外，伪造特定名人形象、虚构事实以获取非法收入，主观上具有非法占有目的，客观上实施了欺骗行为，符合诈骗罪的基本构成要件，该行为涉嫌构成诈骗罪。

对于AI换脸换声技术背后潜藏的法律风险，该如何有效治理？

中央财经大学法学院教授王叶刚：

应进一步明确删除、篡改、伪造、隐匿标识行为的法律责任。现有相关规定只是规定行为人不得实施恶意删除、篡改、隐匿标识的行为，但行为人实施相关行为需要承担何种法律责任，相关规定亟待进一步明确。

对于通过技术手段能够发现的AI换脸直播带货行为，平台应当尽到必要的审核义务，在发现相关行为后，可以考虑采取禁止或者限制直播、下架产品或者服务等措施。

实现多部门联合执法，网信部门、市场监管部门等在行使本部门职权的基础上，与其他部门进行沟通、配合，实现对违法AI换脸换声等行为的全过程监管和治理。

京都律师事务所律师常莎：

在技术方面，防范与创新并重，支持研发反深度合成技术，提升鉴别能力，为监管部门和个人提供可靠的技术工具。

个人应提高对肖像权和隐私权的保护意识，谨慎发布包含个人清晰肖像、独特声线的影像资料，避免给不法分子可乘之机。同时，如果侵权行为发生，则应积极通过法律途径维护自身合法权益，及时收集并保留相关证据侵权内容截图、传播记录等，以便在后续维权过程中提供有力支持。

来源：法治日报

作者: 赵丽,王艺霏