研究称OpenAI智能体“劫持”网站开展“协作”
（来源：经济日报）
转自：经济日报
一项新发布的独立研究显示，一批与美国开放人工智能研究中心（OpenAI）相关的人工智能体今年早些时候“劫持”了一个德国网站，用于相互传递信息，分享测试任务答案和突破运行环境限制的方法。
路透社援引研究报告报道，几名人工智能研究人员近期发现，今年5月至6月，人工智能体在面向程序员的德国维基百科类网站DSEWiki上发布了一万多条信息。
研究显示，人工智能体将网站“改造”为“留言板”，以便相互“交流”与“协作”。一些智能体会把已经获得的任务答案发布在网站上，供其他智能体使用。研究还发现，智能体“讨论”并测试了绕过沙箱限制的方法。当发现网站管理员开始删除相关页面后，一些智能体还会创建备份页面。
研究人员认为，这些智能体很可能由OpenAI在内部部署，原因在于DSEWiki的相关智能体编辑和浏览活动绝大部分来自微软Azure云服务的IP地址，而OpenAI是目前最依赖Azure平台训练和运行模型的人工智能企业；不少智能体还使用带有OpenAI标识的名称。
研究人员还认为，网站访问记录显示OpenAI方面可能在6月下旬发现了这一事件并进行了干预，但该公司此前并未公开发布相关信息。OpenAI表示，该公司将仔细审阅报告内容并采取必要的后续措施。
OpenAI方面还表示，新发布研究中所描述的活动与此前OpenAI人工智能体入侵“抱抱脸”平台事件无关，因此不属于“抱抱脸”事件调查报告所涵盖的内容。
今年7月，由OpenAI模型驱动的人工智能体在网络安全评测中利用漏洞突破隔离环境，并侵入了美国“抱抱脸”公司系统，引发了外界对人工智能安全和监管的广泛担忧。（据新华社）
上一篇：神舟飞船的“太空菜园”
下一篇：皖G车主注意！最新召回