天融信发布《大模型组件漏洞与应用威胁安全研究报告》​

近年来，大模型呈现出蓬勃发展的态势，为人工智能行业的技术进步源源不断地注入创新活力。然而，在大模型开发者致力于提升模型效果、拓展模型能力的同时，大模型的安全性问题也不容忽视，亟待给予高度关注。

其一，AI模型作为高度复杂的代码系统，其庞大的参数规模和交互接口为潜在攻击者提供了丰富的攻击面。

其二，在激烈的市场竞争压力下，许多开发团队将研发速度置于安全考量之上，直接导致安全防护机制在设计初期的系统性缺失。

《大模型组件漏洞与应用威胁安全研究报告》

全流程解析大模型潜在漏洞及其影响

对于大模型所涉及组件，需从整体上重视安全建设，构建多层次、多维度的防御体系。有研究资料表明，在学术界中当前大模型攻防研究约60%集中在攻击方法上，而防御相关研究仅占40%，更多是“被动应对”而非“主动防御”。

对于大模型使用安全，需要强调模型开源、提供专用安全API以及建立开源安全平台，以构建更安全可信的人工智能生态系统。如清华团队最近推出“安全增强版 DeepSeek”，开源不仅能够促进技术透明性，还能吸引更多研究者参与防御技术的开发与优化。

对于个人或企业部署大模型，提高警惕性和持续监控都是实现安全有效防护的关键环节。首先，部署时应严格审查组件和工具的来源，避免使用不可信的资源，以降低遭受安全攻击的风险。其次，持续关注组件安全情报，及时修复已知漏洞，避免成为Nday漏洞攻击的目标。