别把AI当安全“树洞”
杜梨
相关部门近日发布一批典型案例，再度提醒：数字化、智能化为日常办公带来便利的同时，也使得泄密风险同步攀升，尤其要警惕“无感泄密”。
所谓“无感泄密”，简单地说是指当事人根本未觉察风险，秘密或隐私已经被窃取的情况。比如，生成式AI泄密，用户向AI工具的每一次“投喂”，往往是将对话、照片、声纹、文档等的最高操作权限交给了系统，其中暗藏滥用风险，甚至会变成别人生成材料的公开素材。比如，开源信息泄密，别有用心者对单位及个人在社交媒体、官方网站、期刊等公开渠道发布的碎片化信息，进行搜集、整理、分析，提取有价值的信息。再如，智能穿戴设备泄密，某些智能手表、智能眼镜等，可随时摄录环境声音、场所设施，并进行自动定位，数据同步上传云端后，易泄露或被恶意利用……
如今，各行各业正全面拥抱AI，享受着便利的同时，一道危险的裂缝正在悄然扩大——很多AI服务的运作机制，皆依赖于用户输入数据的持续“喂养”，而这些数据在一次使用之后，便藏身于算法的黑箱里，很难被彻底“遗忘”不说，后续如何使用也由不得用户。与此形成鲜明对比的，是追责的“无解”：用户很难判断是在哪个环节、哪个工具的使用上出了问题。
回顾过往，每一次技术的深刻变革，都在重新定义安全边界。如果说从前的过度读取信息、霸道用户协议等已然饱受诟病，那么如今更需要提醒的是，每一次粘贴、每一次发送、每一次“同意”，都在将一部分信息的控制权让渡出去。从用户的角度，理当养成“上传前三思”的习惯。监管部门在完善法律框架的同时，亦要推动法律法规充分落地，督促企业为算法加上良心、让数据安全封存，建立起清晰的运行边界。
技术不会停下进化的脚步。多方合力、形成规范，为数字时代的AI运行机制划定边界，我们才能更好享受技术的馈赠。
上一篇：入汛以来降水量达去年同期7倍