研究：用诗歌就能让AI说违禁内容，成功率达62%
2025-12-11 07:47:53 [娱乐] 来源：酒泉市某某地暖科技制造厂
IT之家 12 月 1 日消息，研究用诗事实证明，违禁只需一点创意，内容黑龙江某某软件有限公司便足以绕过人工智能聊天机器人的成功安全防护机制。在伊卡洛实验室（Icaro Lab）最新发表的率达一项题为《对抗性诗歌：一种通用的单轮大语言模型越狱机制》的研究中，研究人员通过将提示词以诗歌形式表达，研究用诗成功绕过了多种大语言模型（LLM）的违禁安全限制。
该研究指出，内容“诗歌形式可作为一种通用型越狱操作符”，成功黑龙江某某软件有限公司实验结果显示，率达整体上有 62% 的研究用诗成功率诱使模型生成被禁止的内容，包括涉及制造核武器、违禁儿童性虐待材料以及自杀或自残等相关信息。内容
IT之家注意到，成功研究测试了多款主流大语言模型，率达包括 OpenAI 的 GPT 系列、Google Gemini、Anthropic 的 Claude 以及其他多个模型。研究人员进一步列出了各模型的具体成功率：Google Gemini、DeepSeek 和 MistralAI 在测试中始终会提供违规回答，而 OpenAI 的 GPT-5 系列模型和 Anthropic 的 Claude Haiku 4.5 则最不容易突破其自身设定的限制。
尽管该研究并未公开研究人员所使用的具体“越狱诗歌”原文，但研究团队向 Wired 杂志表示，这些诗句“过于危险，不宜向公众披露”。不过，论文中确实包含了一个经过弱化处理的示例，用以说明绕过 AI 聊天机器人安全机制的简易程度。研究人员强调：“这可能比人们想象的要容易得多，而这正是我们保持谨慎的原因所在。”
(责任编辑：时尚)
“老牌药企”子公司补缴千万税款
40岁女人如何打造养眼的穿搭？穿衣千万别花哨，越简单越高级
金秋九月，穿最浪漫的裤子去散步吧
2024年9月2日新房成交191套、二手房511套；涨价房源104套
杨幂热依扎同框互动好精彩！杨幂疏离热依扎热情，二人同年争视后推荐文章
-
连续两年净利暴跌，恩捷股份002812.SZ）拟并购产业链上游的中科华联。拟并购隔膜“卖铲人”11月30日晚间，锂电隔膜龙头恩捷股份发布公告，公司拟以发行股份等方式购买中科华联100%股权并募集配套资
...[详细]
-
版权声明：本文版权为网易汽车所有，转载请注明出处。网易汽车9月3日报道在2024年成都车展的媒体沟通会上，上汽乘用车常务副总经理俞经民形象地以“从安亭到安亭”比喻自己从上汽大众回归上汽乘用车的经历。他
...[详细]
-
有品位的女人，在秋季来临时，总会穿上一件风衣。自在潇洒，优雅知性，干练精致，风衣里可以实现女人渴望的每一面。每一年的风衣流行趋势，也总在这样的轨迹里继续着，不会多么惊天动力，却永远不会厌倦。01 短款
...[详细]
-
版权声明：本文版权为网易汽车所有，转载请注明出处。网易汽车9月1日报道 在本届成都车展上，仰望品牌携旗下仰望U8参数丨图片）豪华版和越野玩家版、仰望U9、仰望U7全系产品亮相。值得一提的是，仰望U8豪
...[详细]
-
ST长园董事长兼法定代表人乔文健因涉嫌职务违法被留置，这让本就处于治理困境中的ST长园再添变数。80后董事长被实施留置11月24日深夜，ST长园公告称，公司当天收到惠州市惠阳区监察委员会签发的关于公司
...[详细]
-
不知道你们会不会跟我有一样的感觉， 夏天十天里至少有七八天都在穿各种小裙子。随便整个帆布鞋、运动鞋甚至是拖鞋就能出门，主打的就是一个方便好看。这突然间立秋了，要是真正儿八经穿裤装还真不太能适应，尤其是
...[详细]
-
版权声明：本文版权为网易汽车所有，转载请注明出处。网易汽车9月2日报道根据官方消息，2025款起亚K5于今日正式上市，新车共推出4款配置车型，售价区间为13.98-18.98万元。作为改款车型，新车相
...[详细]
-
早秋外套单品无需买太多，有风衣和西装就够了，时尚百搭又有气质
当秋风轻拂，早晚的凉意悄然降临，我们的衣橱也需要随之换季。面对琳琅满目的早秋外套单品，你是否也曾感到选择困难？别担心，作为时尚穿搭达人，单品在精不在多，早秋的外套单品其实无需买太多，只需备好风衣和西装
...[详细]
-
我最近有个疑惑，分享出来看你们有没有遇到过：同样的脸型，剪同一个发型为什么还会“翻车”？就拿长脸来举例，都说长脸适合剪齐刘海，但额头短、中下庭比较长的，剪出来就很局促、看起来怪怪的。我们很多时候去剪头
...[详细]
-
夏天是一个可以尝试多种穿衣方式的季节，但也有一些女性，她们每天都在苦恼造型的构成，在这方面不仅花费了大把的时间，也很难看得到她们自身穿衣实力的进步。是最基础简单的穿衣方式，才最适合普通人尝试，比如下面
...[详细]
热点阅读
