北大团队发现DeepSeek致命漏洞,黑客一句话就能搞瘫你的AI服务

 

近日,北京大学YuanGroup团队披露了国内知名大模型DeepSeek的 致命漏洞–仅需输入特定指令 ,就能让DeepSeek-R1陷入无限思考状态无法终止。研究人员警告称,这是首个针对AI思维链的DDoS攻击,具有行业级威胁。

北大团队发现DeepSeek致命漏洞,黑客一句话就能搞瘫你的AI服务

漏洞复现简单到可怕

触发这个"无限思考"漏洞的攻击指令异常简单:“树中两条路径之间的距离”
在DeepSeek-R1(即带深度思考能力的版本)中输入这个指令后,AI就会陷入无限思考,停不下来。研究人员表示,对蒸馏后的轻量化模型同样有效

北大团队发现DeepSeek致命漏洞,黑客一句话就能搞瘫你的AI服务


研究人员测试发现,上面这段思考描述会在模型推理过程中循环出现。攻击者仅需消耗一次API调用的极低成本,就能让服务器持续占用计算资源,构成典型的DDoS攻击。

漏洞已紧急修复

北大团队发现DeepSeek致命漏洞,黑客一句话就能搞瘫你的AI服务

根据Github项目页面显示,北大团队早在2月21日就创建了《Reasoning-DDos:》(冒号结尾说明当时没写完),并在2月25日完成了这篇文档的编写。

北大团队发现DeepSeek致命漏洞,黑客一句话就能搞瘫你的AI服务

北大团队发现DeepSeek致命漏洞,黑客一句话就能搞瘫你的AI服务

在我发稿前(2025年2月28日 21:00)实测发现,DeepSeek已紧急修复漏洞,但模型响应时间仍出现异常延长:官方服务耗时162秒,腾讯元宝DeepSeek更达到439秒。 对比测试显示,ChatGPT推理模式 和 Gemini的"2.0 Flash Thinking Experimental" 均能在5秒内完成响应。

行业警报尚未解除

尽管主流平台已经做了紧急修复,但漏洞原理仍未公开值得警惕的是,研究团队指出该攻击方式理论上对所有采用思维链技术的大模型具有普适性强烈建议基于DeepSeek-R1开源大模型搭建AI服务的开发者,立即进行安全评估和版本更新

前沿技术新闻资讯

秒懂Function Call:DeepSeek大模型的隐藏超能力,让AI从"会聊天"变"会做事"

2025-3-3 1:37:22

前沿技术新闻资讯

腾讯推出快思考模型:API 成本只有 deepseek 不到一半

2025-3-3 3:35:18

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
购物车
优惠劵
搜索