搜索历史清空

浙商证券:DeepSeek遭网络攻击揭示AI大模型安全隐患

 财中社 周浩宇  2025-02-13 10:59  2.2w阅读

2月13日,浙商证券发布计算机行业点评报告。文中指出DeepSeek遭受网...

2月13日,浙商证券发布计算机行业点评报告。文中指出DeepSeek遭受网络攻击,暴露大模型安全防护需求。

近期DeepSeek遭受的持续性网络攻击,揭示了AI大模型在数据安全领域的核心风险。攻击者通过DDoS攻击、僵尸网络(如HailBot和RapperBot)及暴力破解等手段,不仅导致服务中断,更可能引发用户数据泄露风险。例如,攻击期间曾出现ClickHouse数据库泄露事件,涉及用户聊天记录、API密钥等敏感信息。此外,思科研究团队发现,DeepSeek-R1模型在提示词干扰测试中攻击成功率达100%,暴露出模型自身在内容安全过滤和逻辑隔离方面的漏洞。

在大模型使用过程中,API接口成为攻击者重点目标。攻击者利用HTTP代理攻击、僵尸网络请求等手段,通过API接口发起海量调用,导致服务资源耗尽,甚至触发算力资源黑洞效应。这一现象表明,大模型开放的API接口在提升业务灵活性的同时,也引入了新的攻击面。

浙商证券认为,用户侧需关注的API安全防护方向包括:1)身份认证与权限管控:强化API密钥的动态管理,结合多因素认证(MFA)限制非法调用;2)流量监测与限流熔断:部署AI驱动的异常流量检测系统,实时识别并阻断DDoS攻击;3)模型交互层安全:通过提示词注入检测、推理过程沙箱化等技术,防止攻击者操控模型输出。此外,DeepSeek因攻击暂停API服务充值的行为,进一步凸显了API可用性与安全性的平衡难题,需从弹性架构设计(如多区域分布式部署)和动态资源调配入手,提升业务连续性。

多家安全厂商宣布将DeepSeek模型集成至自身安全产品中,实现“AI+安全”的双向赋能。

一方面,大模型能力可以赋能安全产品。通过大模型的自然语言处理与逻辑推理能力,提升威胁检测效率。另一方面,网安厂商的安全能力可以反哺AI平台。安全厂商通过渗透测试、漏洞挖掘等技术,帮助AI企业加固模型与基础设施,形成良性生态循环。浙商证券认为,结合大模型的自动化安全运营(如智能策略生成、攻击链预测)有望成为行业标配,同时催生针对AI模型安全的细分赛道。

重要提示: 本文著作权归财中社所有。未经允许,任何单位或个人不得在任何公开传播平台上使用本文内容;经允许进行转载或引用时,请注明来源。联系请发邮件至editor@caizhongshe.cn。

长按保存图片

相关文章

24小时热门文章

最新文章