天融信發布《大模型組件漏洞與應用威脅安全研究報告》?
報告下載：大模型組件漏洞與應用威脅安全研究報告
近年來，大模型呈現出蓬勃發展的態勢，為人工智能行業的技術進步源源不斷地注入創新活力。然而，在大模型開發者致力于提升模型效果、拓展模型能力的同時，大模型的安全性問題也不容忽視，亟待給予高度關注。
隨著大模型架構復雜性持續提升，其面臨的攻擊面不斷增多。究其根本，導致缺陷與漏洞頻發的主要原因，或是因為AI技術的快速發展與部分開發者“功能優先、安全滯后”的觀念。
其一，AI模型作為高度復雜的代碼系統，其龐大的參數規模和交互接口為潛在攻擊者提供了豐富的攻擊面。
其二，在激烈的市場競爭壓力下，許多開發團隊將研發速度置于安全考量之上，直接導致安全防護機制在設計初期的系統性缺失。研究表明，當研發工作的首要目標是迭代速度時，安全評估往往被壓縮至產品發布前的最后階段，甚至完全被忽視。這種開發模式雖然能夠在短期內實現技術突破，卻使得AI系統暴露在諸多潛在威脅之下，為后續的安全事故埋下隱患。這些風險不僅威脅到模型的可靠性，還可能對數據隱私、系統安全以及社會倫理產生深遠影響。
《大模型組件漏洞與應用威脅安全研究報告》
全流程解析大模型潛在漏洞
基于以上背景，天融信第一時間組織安全團隊針對大模型漏洞進行深入研究，并發布《大模型組件漏洞與應用威脅安全研究報告（2025）》（以下簡稱《報告》），全流程解析大模型潛在漏洞及其影響，并提出相應的安全建議。
《報告》在大模型開發、部署階段，重點對模型推理優化部署、模型訓練微調、模型應用框架、其他大模型相關組件工具進行漏洞分析；在大模型使用階段，主要針對大模型的語義操控突破安全限制生成違規內容、配置缺陷泄露敏感信息、Prompt注入利用輸入劫持模型行為執行惡意指令等方面進行漏洞研究。
TOPSEC
《報告》認為大模型安全問題體現在多個層面。其在部署階段的安全漏洞與傳統網絡安全的通用漏洞高度相似。但在使用階段，則存在其特有的內容安全問題，這些漏洞可能源于模型本身的特性。例如生成內容的不可控性、對輸入指令的過度依賴，以及多模態交互中的潛在風險。
此外，AI模型的部署環境復雜多樣，系統級的安全漏洞可能帶來新的攻擊向量。例如，AI系統的基礎設施或與外部數據源的連接可能成為攻擊者的突破口。
對于大模型所涉及組件，需從整體上重視安全建設，構建多層次、多維度的防御體系。有研究資料表明，在學術界中當前大模型攻防研究約60%集中在攻擊方法上，而防御相關研究僅占40%，更多是“被動應對”而非“主動防御”。
對于大模型使用安全，需要強調模型開源、提供專用安全API以及建立開源安全平臺，以構建更安全可信的人工智能生態系統。如清華團隊最近推出“安全增強版 DeepSeek”，開源不僅能夠促進技術透明性，還能吸引更多研究者參與防御技術的開發與優化。
對于個人或企業部署大模型，提高警惕性和持續監控都是實現安全有效防護的關鍵環節。首先，部署時應嚴格審查組件和工具的來源，避免使用不可信的資源，以降低遭受安全攻擊的風險。其次，持續關注組件安全情報，及時修復已知漏洞，避免成為Nday漏洞攻擊的目標。
相關閱讀
2、天融信：DeepSeek行業應用加速，大模型安全“短板”亟待補齊！
