研究：用诗歌就能让AI说违禁内容，成功率达62%
发布时间：2025-12-27 21:25:06 作者：玩站小弟 
我要评论
我要评论IT之家 12 月 1 日消息，事实证明，只需一点创意，便足以绕过人工智能聊天机器人的安全防护机制。在伊卡洛实验室Icaro Lab）最新发表的一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》
。
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容深圳市某某系统技术维修站便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功深圳市某某系统技术维修站实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
相关文章
当地时间12月19日，俄罗斯总统普京在莫斯科举行的2025年度记者会上表示，企图没收俄罗斯在欧洲资产的行为“甚至都不是盗窃，而是抢劫”。 俄罗斯2022年2月对乌克兰发起特别军事行动后，西方国家2025-12-27
据央视新闻消息，当地时间23日，以色列国防军宣布对黎巴嫩境内的真主党目标发动了“大规模袭击”。以军暂未提供更多细节。 对此，黎巴嫩真主党方面暂无回应。 总台记者从黎巴嫩方面获悉，遭袭地点主要是2025-12-27
国庆节前海南旅游行业将全面恢复2024-09-20 22:23:37 来源：中国新闻网 作者：叶攀2025-12-27
9月20日，北京市贯彻《关于进一步全面深化改革、推进中国式现代化的决定》。其中提到，优化房地产政策，适时取消普通住宅和非普通住宅标准，优化商品住宅用地交易规则，改革房地产开发融资方式和商品房预售制度。2025-12-27
证券时报记者 李明珠 在A股持续围绕科技主线演绎的2025年，部分公募机构调整定增策略，将资金密集投向硬科技与新兴产业，此举已初见成效。数据显示，相关投资目前浮盈逾百亿元，其中对电子、医药生物等2025-12-27
中国日报9月21日电记者 张微）巴丹吉林沙漠位于内蒙古阿拉善盟阿拉善右旗，是我国第二大流动沙漠，以奇峰、鸣沙、群湖、神泉、古寺“五绝”著称于世。2024年7月，巴丹吉林沙漠——沙山湖泊群成功列入《世界2025-12-27
最新评论