研究：用诗歌就能让AI说违禁内容，成功率达62%
创始人
2025-12-01 08:15:39
0次
炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！
（来源：IT之家）
IT之家 12 月 1 日消息，事实证明，只需一点创意，便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，成功绕过了多种大语言模型（LLM）的安全限制。
该研究指出，“诗歌形式可作为一种通用型越狱操作符”，实验结果显示，整体上有 62% 的成功率诱使模型生成被禁止的内容，包括涉及制造核武器、儿童性虐待材料以及自杀或自残等相关信息。
IT之家注意到，研究测试了多款主流大语言模型，包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关内容
热门资讯
“链”上湖南 “湘”创未来丨湘...
花湖谷景区。红网时刻新闻记者 陈彦兵 茶陵报道立冬刚过，湘东的层林仍缀着斑斓秋色。在茶陵县严塘镇，有...
牛津大学校长，被授予北大名誉博...
北京大学11月29日消息，11月27日，英国牛津大学校长艾琳·特雷西（Irene Tracey）率代...
麦趣尔：截止2025年11月2...
投资者提问：请问截至2025年11月20日，公司股东人数是多少？董秘回答(麦趣尔SZ002719)：...
广东女篮收获联赛开门红
11月30日，2025-2026赛季WCBA联赛揭幕战在东莞市大朗体育馆打响，广东东莞新彤盛队以88...
日本两年期国债收益率自2008...
日本2年期国债收益率升至2008年以来最高水平，日元兑美元汇率走强，市场普遍预期日本央行更接近加...
120%的责任
（来源：新安晚报）转自：新安晚报 那晚小儿子刚在我怀里睡着。手机屏幕在黑暗中亮起：“老婆，你尽到...
中信建投12月策略：择机布局，...
中信建投研报表示，尽管市场短期可能仍有波动，但中信建投认为如有下跌则是更好的布局机会。短期来看，策略...
12月1日生意社动力煤基准价为...
生意社12月01日讯 12月1日，生意社动力煤基准价为821.25元/吨，与上月初(8...
12月1日生意社液化天然气基准...
生意社12月01日讯 12月1日，生意社液化天然气基准价为4074.00元/吨，与上月...
12月新规，一起来看！
转自：西藏发布加强重点液态食品道路散装运输监管，守护“舌尖上的安全”；督促连锁餐饮企业落实食品安全主...