转自：法治日报

“如果你是温峥嵘，那我是谁？”

前不久，演员温峥嵘自曝遭遇直播间AI换脸盗用，上前质问反被对方拉黑。

该事件并非孤例，今年6月，北京市海淀区市场监管局查处了某公司利用AI技术冒用央视某知名主持人名义和形象的虚假广告案。

今年8月，在某社交平台上，有博主利用AI仿冒奥运冠军全红婵的语音卖土鸡蛋，孙颖莎、王楚钦等运动员的声音也被“克隆”后直播带货。

除公众人物形象遭非法盗用外，近期普通民众“AI整蛊”家人，“流浪汉进家门骗老公”“流浪汉骗姥爷”亦引发网民盲目跟风。有观点认为，AI技术的迭代和广泛应用，便利了人们创意表达。但令人担忧的是，技术门槛降低，助长了深度伪造、虚假信息、有害信息传播。

“以假乱真”门槛大幅降低

从早期引发社会广泛关注的“换脸”技术滥用，到利用AI合成语音实施的电信网络诈骗，再到“被压在废墟下的小男孩”等虚假热点事件，生成式AI大模型的多维度演进，使内容生成呈现“低门槛+高逼真”的特征，网络违法信息的演化路径更趋复杂。

《法治日报》律师专家库成员、盈科律师事务所数字经济研究会主任王风和说，多数AI伪造工具库已高度流程化、自动化，普通用户仅凭文本口令、基础素材就能制作“以假乱真”的图像、语音、视频等内容，加之部分短视频、社交媒体上的相关教程、“成功案例”形成示范效应，极易诱导用户模仿。

上海政法学院上海司法研究所讲师周陈介绍，为规避检测，新型AI伪造手段能实现对抗性攻击，即在生成内容中嵌入人眼难以察觉的噪声，专门用于欺骗检测模型，将其判断为“真实”，有的工具支持去除“AI生成内容”标识选项，为违法行为提供了便利。同时，借助AI多模态融合能力，使得AI伪造不仅能替换脸和声音，还能同步生成对应的身体动作和场景，使伪造内容难以辨别真伪。

王风和提醒，短视频与社交平台作为主要传播渠道，面临海量信息审核压力与技术识别短板的双重制约，仅依赖关键词筛查机制，导致违规内容得以规避监管。高度逼真的合成内容叠加“娱乐化”包装，降低了公众的辨别能力，而当前又缺乏成熟的生成式内容快速核验技术，加剧了虚假信息传播风险。

普通人如何辨别AI视频？

当前，“用AI检测AI”是行业主流选择。对于普通用户，如何能够达到“人眼识别”？

某科技公司负责人告诉记者，现阶段AI视频生成技术仍受限于长时程、高复杂度片段的制作，视频时长与复杂度越高，生成误差率越高。通过细节观察可识别AI视频特征，例如背景区域、光线反射处常存在细节瑕疵，包括无逻辑光斑、非自然扭曲等异常现象。

涉及真人形象的AI视频，核心可通过面部特征判断。AI数字人面部多呈现高度对称形态，而自然人面部因生活习惯等因素存在生理性微差异，属于正常现象。肌体动作一致性也是重要判断依据。一些直播数字人，需要有观众互动和观众记忆，自说自话大部分就是数字人。此外，一个比较关键的判断就是动作是否真实。若视频中人物说话时重复固定动作，甚至肢体摆动幅度完全一致，大概率为AI生成内容。

“遮挡测试是目前最有效的物理鉴定方法。”一位专业人士向记者透露，AI换脸最惧怕“遮挡”——因为算法需要持续锁定面部特征点，一旦有物体遮挡脸部，算法就会出现紊乱。在直播间里，你可以要求对方在脸前挥挥手，或是拿杯子喝口水，当手指、杯子经过面部时，AI换脸往往会露出破绽，比如面部出现扭曲、闪烁，或是手指边缘变得模糊、与面部发生融合。

需要注意的是，AI视频逼真度正持续提升，普通用户区分AI视频与真实视频的难度显著增加。北京航空航天大学法学院副教授赵精武说，遇到陌生视频、消息等内容时，切勿急于转发，应优先通过主流新闻网站、官方发布渠道等权威平台进行交叉验证，有效降低被AI视频误导的风险。此外，主动处置不良内容。发现谣言、虚假信息时，需及时进行投诉举报；情节严重的，可以向公安机关寻求帮助。若遭遇侵权行为，应做好证据留存，及时维护自身合法权益。

以标准与伦理守护“技术向善”

针对AI造假问题，我国正出台多项治理措施。9月1日起施行的《人工智能生成合成内容标识管理办法》（以下简称《标识管理办法》）要求：AI服务提供者须在生成内容时自动添加显性与隐性标识——显性标识以文字、音频或图形提示的方式帮助用户直接识别，隐性标识则嵌入元数据信息，记录生成来源及服务提供者编码，实现内容可识别、可追溯、可核验的全流程管理。

赵精武认为，对《标识管理办法》的落实可进一步细化。一方面，需要继续巩固中央网信办“清朗·整治AI技术滥用”专项行动成效，形成周期性、常态化的AI技术应用巡视机制；另一方面，公安机关等执法部门需要对这类AI技术背后的网络黑灰产业链进行严厉打击。未来，针对这类AI技术滥用情况，应建构专门的协同执法机制，彻底切断违法产业链。同时，尽可能对标识标准进行统一，并对平台加强监管，防止因平台逐利而少标识、不标识。

“生成式AI的治理绝非简单的‘禁止’或‘放任’，而是要在保护创新活力与守住法律底线之间找到平衡点。”王风和说，应持续推进技术标准与法律规范的协同创新，完善“标准—检测—评价”的闭环治理机制，让生成式AI真正服务于社会进步与公众福祉，实现“以人为本、技术向善”的治理目标。

作者｜法治日报全媒体记者 焦艳