■申双艳

　　刷到一条“某地受灾”的震撼视频，画面惨烈、配乐煽情，你正难受呢，旁边有人提醒：这是AI生成的。

　　接到一通“儿子”打来的电话，声音、语气都像，开口就要钱应急，事后才知道，那是AI换脸加变声的骗局。

　　看到一段“专家”对经济、健康的权威解读，句句在理，收藏转发后才发现，那张脸和那些话，都是AI合成的。

　　这样的场景是无数个正在发生的事实。

　　9月2日，中央网信办“清朗·整治AI应用乱象”专项行动进入第二阶段，聚焦利用AI制作发布虚假信息。截至目前，累计查处账号4.9万余个，清理违法违规信息561万余条，处置违规网站、应用程序等2400余个。冰冷的数字背后，是无数个差点被骗的人，和越来越多人“不敢信”的疲惫。

　　当前，AI造假已从“技术演示”变成一条“产业链”，它真正伤害的是人与人最底层的信任——这正是整治AI乱象的核心：守的不是技术，是信任。

当造假变得“零门槛”

过去，造谣是有门槛的。编一段假新闻，要有文字功底；P一张假图，要会用软件；冒充一个人，得先模仿得“像”。

　　如今，一句话出视频，一张照片让人“开口说话”……更关键的是—它不仅降低了门槛，还把产量和分发速度拉满：一个号一天能吐成百上千条虚假内容，再借推荐算法精准投喂，像水渍一样渗进信息流。

　　AI把造假的“零门槛”和“高产量”同时拉满。

整治的不是AI，是用AI作恶的人

有人担心：这是不是要“打压AI”？

　　恰恰相反。技术本身并无善恶。AI能帮医生看片子、帮老师备课、帮普通人写文案，这些价值谁都不能否认。

　　问题从来不在AI，而在拿模型当谎话放大器“人”。

　　整治的，是那些用AI换脸诈骗的人，用AI编造假灾情博流量的人，用AI生成侵害未成年人权益的人，用AI批量制造“水军”虚假好评的人……

　　就像汽车跑得快，不代表可以闯红灯；为汽车配交规，不是不让车跑，而是让它跑得稳、跑得远。

制度划底线，个人守清醒

　　这场整治表面清的是账号和信息，守的是社会信任——我们仍愿相信新闻是真的、感情是真的。

　　但制度划的只是底线，个人要守住的是清醒，具体就三个字：慢一点。看到“太震撼、太离谱、太巧合”的内容，先停三秒，别急着转发；接到涉及钱、涉及隐私的电话，多打一个电话核实；相信一件事之前，先看看有没有可靠的信源。

　　这不是多疑，是人人该修炼的“数字素养”——看得穿话术，守得住本心，用得对工具。

　　AI只会越来越强，“真实”也就越来越稀缺、越来越珍贵。技术一直在变，但人对真相的敬畏不能变。终有一天机器会很像人，而“会怀疑、也敢相信”的那颗心，才是机器永远追不上的距离。

　　整治AI造假，说到底守的不是技术，是信任——是一个社会还能彼此相信、彼此托付的底气。

【中国经济时报--中国经济新闻网 http://www.cet.com.cn】