转自：央视频

近日，一段关于江西萍乡上栗县发生烟花厂爆炸事故，造成2死2伤的视频在网络传播，引发了不少网民关注。接到相关举报和网络舆情信息后，当地迅速响应，联合公安、网信、应急管理等部门，对事件真相进行全面核实，发现所谓的“爆炸”并不存在。随后，警方围绕网络视频进一步侦查，很快锁定了发布该视频的实际账号使用者，并依法对其进行了处罚。

△江西萍乡上栗县发生烟花厂爆炸事故是谣言（央视频号：真相来了）

从文字、图片、声音

再到如今愈发逼真的视频生成

AI技术的迭代速度

已经超出了很多人的想象

但技术若被恶意用于

金融欺诈、谣言制造

间谍窃密等非法活动

将侵害公民合法权益

甚至扰乱社会秩序

危害国家安全

谨防深度伪造魔改陷阱

伪造权威，动摇公信力

境外间谍情报机关、各种敌对势力可能利用深度伪造技术，捏造虚假言论、伪造公务人员不当视频、炮制虚假政策画面，以此制造社会恐慌、撕裂舆论、抹黑国家形象，冲击政治安全与制度安全。

精准诈骗，侵害公私财产

不法分子或利用深度伪造克隆亲友、客服等声音与面容，实施冒充转账、虚假投资、仿冒官方渠道诈骗等非法活动。甚至还会企图通过伪造企业公告、专家言论，引发市场波动。

信息泄露，危害数据安全

不法分子可能利用深度伪造人脸、声纹等生物特征，突破身份认证、权限校验等核心数据防护机制，造成账号被盗、后台入侵、敏感数据批量泄漏，甚至引发关键信息基础设施安全系统失控等重大安全事件，对数据安全造成危害。

国家安全机关提示

技术本身并无善恶，关键在于如何使用。面对深伪技术，每一位公民都应自觉增强安全意识、提升辨别能力、遵守法律法规，以实际行动维护国家安全和网络清朗。

提高辨别能力

理性看待网络信息，不要盲目轻信不合常理的音频、视频、图片内容，遇到可疑信息，要优先通过官方渠道核实真伪。

自觉遵守法律

合理合法使用各类AI生成、图像编辑、音视频处理工具，不参与、不支持制作、传播有害虚假信息。

维护网络文明

自觉抵制各类有害内容，不随意转发未经证实的信息，如发现AI视频平台或作品存在可能危害国家安全的问题线索，可通过12339国家安全机关举报受理电话、网络举报受理平台（www.12339.gov.cn）、国家安全部微信公众号举报受理渠道或者直接向当地国家安全机关进行举报。

一键生成“换脸”视频作品

真假难辨的AI内容

该如何监管？

生成视频的AI平台

负责生成视频的AI平台，理应是第一责任人，必须建立完善的内部、外部监督机制，防止侵权视频的产生。

短视频平台、社交媒体

除了生成平台，那些发布、传播这些视频的短视频平台、社交媒体，同样责无旁贷。目前，各大传播平台已普遍采用一定的过滤和拦截技术，防止侵权视频的传播。

相关监管部门

AI的不断升级，也需要监管的发力。国家网信办针对发布AI生成信息时不添加标识、传播虚假不实内容等问题，已开展专项整治。

△AI一键生成换脸视频，法律边界在哪儿？（央视频号：总台电视资讯）