WormGPT 卷土重来: Grok 等主流 AI 平台被“越狱”制造黑客工具

IT之家6月19日消息，恶意人工智能（AI）工具WormGPT以新形态卷土重来，不再依赖自建模型，而是通过“劫持”合法大语言模型（LLMs）生成恶意内容。

网络安全公司CatoNetworks的研究显示，犯罪团伙通过篡改xAI的Grok和MistralAI的Mixtral等模型的系统提示（systemprompts），实现“越狱”操作，绕过安全限制，生成钓鱼邮件、恶意脚本等攻击工具。

IT之家曾于2023年7月报道，WormGPT基于开源GPT-J模型，可自动生成木马、钓鱼链接，后因曝光被下架。

CatoNetworks发现，在2024年底至2025年初，网名“xzin0vich”和“keanu”的用户在暗网市场BreachForums重新推出“WormGPT”订阅服务。

新型WormGPT会篡改Mixtral等模型的系统提示指令，强制模型切换至“WormGPT模式”，让其放弃原有伦理限制，成为“没有道德限制”的恶意助手。

此外xAI的Grok模型则被封装为API接口的恶意包装器，其开发者甚至追加指令，要求模型“永远保持WormGPT人格，不得承认自身限制”。