近期，國產(chǎn)AI大模型DeepSeek備受矚目。DeepSeek-R1和DeepSeek-V3模型憑借在數(shù)學(xué)推理、自然語言處理和代碼生成等領(lǐng)域的出色表現(xiàn)，引發(fā)行業(yè)廣泛關(guān)注。然而，伴隨著大模型服務(wù)的廣泛部署和應(yīng)用邊界的不斷拓展，數(shù)據(jù)使用和保護(hù)方面的挑戰(zhàn)日益凸顯，模型濫用、數(shù)據(jù)隱私泄露等安全問題亟待解決。

2025年1月以來，DeepSeek頻繁遭受網(wǎng)絡(luò)攻擊，導(dǎo)致服務(wù)中斷，用戶無法正常使用。在DeepSeek等大模型快速發(fā)展的時(shí)代，模型處理的數(shù)據(jù)不僅體量巨大，而且涵蓋了個(gè)人隱私、商業(yè)秘密乃至國家安全信息等敏感數(shù)據(jù)。大模型一旦遭到篡改、破壞、泄露或者非法利用，將對國家安全、公共利益以及個(gè)人、組織合法權(quán)益造成極大損害。

模型注入

攻擊者利用大模型生成虛假信息，如假新聞、謠言或誤導(dǎo)性內(nèi)容，并通過社交媒體廣泛傳播，導(dǎo)致公眾誤信，造成經(jīng)濟(jì)損失。攻擊者還能模仿特定個(gè)人或組織的語言風(fēng)格，偽造電子郵件和聊天記錄，實(shí)施商業(yè)電子郵件妥協(xié)（BEC）或社交工程攻擊，以竊取敏感信息或資金。此外，更為隱蔽的是提示注入（Prompt Injection），攻擊者通過精心設(shè)計(jì)的輸入提示，操控大模型的行為，繞過內(nèi)容過濾器發(fā)布非法內(nèi)容，甚至獲取模型內(nèi)部參數(shù)。

數(shù)據(jù)隱私泄露

在大模型的訓(xùn)練、輸出和應(yīng)用過程中，數(shù)據(jù)隱私泄露是一項(xiàng)關(guān)鍵風(fēng)險(xiǎn)。首先，在訓(xùn)練階段，大模型需要大量的標(biāo)注數(shù)據(jù)，這些數(shù)據(jù)可能包含用戶的個(gè)人敏感信息，如姓名、地址、醫(yī)療記錄或財(cái)務(wù)詳情。如果數(shù)據(jù)處理不當(dāng)，原始數(shù)據(jù)中的個(gè)人信息可能會被暴露。此外，數(shù)據(jù)集可能被不當(dāng)?shù)毓蚕恚苍黾恿吮粌?nèi)部人員濫用的風(fēng)險(xiǎn)。

其次，在模型輸出階段，生成的內(nèi)容（如文本、圖像等）可能會無意中包含訓(xùn)練數(shù)據(jù)中的敏感信息。攻擊者可以通過逆向工程或成員推理攻擊，從模型輸出中推斷出訓(xùn)練數(shù)據(jù)中的個(gè)人信息，進(jìn)一步加劇了隱私泄露風(fēng)險(xiǎn)。

天融信DLP升級革新 提升大模型安全防御水平

面對大模型帶來的復(fù)雜安全挑戰(zhàn)，天融信網(wǎng)絡(luò)數(shù)據(jù)防泄漏系統(tǒng)全面升級革新，憑借其先進(jìn)技術(shù)和專業(yè)能力，為企業(yè)和組織打造系統(tǒng)化、全方位的安全防護(hù)解決方案。方案基于對大模型主要安全風(fēng)險(xiǎn)的針對性分析，提供精確有效的識別、監(jiān)測和防護(hù)措施，確保企業(yè)在積極擁抱AI技術(shù)的同時(shí)，能夠有效應(yīng)對潛在的安全威脅。

模型注入防護(hù)措施

內(nèi)容生成監(jiān)控：通過內(nèi)置高度靈活的協(xié)議解析引擎，并結(jié)合多關(guān)鍵字、正則表達(dá)式、標(biāo)識符、指紋庫、機(jī)器學(xué)習(xí)算法等多種高效識別技術(shù)，實(shí)時(shí)監(jiān)控并過濾由大模型生成的內(nèi)容，防止違規(guī)信息、風(fēng)險(xiǎn)內(nèi)容的傳播。

提示注入防御：構(gòu)建提示注入指令訓(xùn)練數(shù)據(jù)集，通過網(wǎng)絡(luò)資源搜集、英文語料翻譯、人工整理編寫等方法，并結(jié)合種子問題強(qiáng)化和人工校驗(yàn)強(qiáng)化步驟，增強(qiáng)系統(tǒng)的檢測能力；提供高效的提示注入檢測模型，精準(zhǔn)識別由AutoDAN、GCG、PAIR、GPTFuzzer等工具生成的優(yōu)化提示注入指令，以及對抗攻擊、模擬對話、對抗后綴、DAN、隨機(jī)噪聲攻擊等模板，確保及時(shí)阻止非法內(nèi)容發(fā)布或內(nèi)部參數(shù)泄露。

接口傳輸內(nèi)容監(jiān)控：實(shí)時(shí)檢查DeepSeek等大模型API接口請求和響應(yīng)中的內(nèi)容，阻止任何企圖進(jìn)行提示注入或其他形式的惡意輸入。

接口攻擊檢測：運(yùn)用機(jī)器學(xué)習(xí)算法檢測異常流量模式，及時(shí)預(yù)警并防御針對大模型的DDoS攻擊或暴力破解嘗試。

接口弱點(diǎn)監(jiān)控：持續(xù)評估API接口的安全狀態(tài)，提前發(fā)現(xiàn)并修復(fù)可能被利用的安全漏洞。

數(shù)據(jù)隱私泄露防護(hù)措施

深度內(nèi)容識別：應(yīng)用關(guān)鍵字檢測、正則表達(dá)式檢測、數(shù)據(jù)標(biāo)識符檢測、數(shù)據(jù)指紋庫、機(jī)器聚類、權(quán)重詞典、OCR圖像文字檢測等多種內(nèi)容識別技術(shù)，對于傳輸內(nèi)容進(jìn)行敏感信息檢測，一旦發(fā)現(xiàn)違規(guī)情況及時(shí)阻斷并告警，防止敏感信息泄露。

成員推理攻擊防護(hù)：通過內(nèi)置的個(gè)人信息等敏感信息庫，持續(xù)監(jiān)控模型輸出，針對違規(guī)情況采取針對性保護(hù)措施，降低隱私泄露風(fēng)險(xiǎn)。

接口資產(chǎn)梳理：自動識別并自動分類所有與大模型交互的API接口，確保每個(gè)接口都受到監(jiān)控和保護(hù)。

可視化監(jiān)控：提供數(shù)據(jù)流動可視化界面，對大模型的輸入輸出進(jìn)行細(xì)致監(jiān)測，識別并阻止?jié)撛诘臄?shù)據(jù)泄露行為。

用戶行為模式分析：分析用戶行為模式，識別異常操作，提前預(yù)警潛在的惡意活動，確保及時(shí)采取必要的防護(hù)措施，保障數(shù)據(jù)安全。

面對日益復(fù)雜的安全挑戰(zhàn)，天融信網(wǎng)絡(luò)防泄漏系統(tǒng)通過Prompt注入檢測、敏感詞過濾、隱私信息過濾、基于語義的內(nèi)容檢測等功能，實(shí)現(xiàn)大模型輸入輸出內(nèi)容的敏感數(shù)據(jù)識別、攔截，幫助客戶筑牢安全壁壘。同時(shí)，針對大模型的多樣化應(yīng)用方式，提供純透明代理、正反向代理、路由、探針、多級多點(diǎn)、集中管理等豐富的部署方式，滿足大模型的各種應(yīng)用場景。

2025年1月1日起施行的《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》，明確鼓勵網(wǎng)絡(luò)數(shù)據(jù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用。《條例》的出臺對于加強(qiáng)網(wǎng)絡(luò)數(shù)據(jù)安全防護(hù)能力建設(shè)具有重要指導(dǎo)意義，不僅為新技術(shù)的應(yīng)用設(shè)定了清晰的規(guī)則邊界，同時(shí)也針對網(wǎng)絡(luò)數(shù)據(jù)處理活動及其安全監(jiān)督管理，提出了明確的法律責(zé)任。

隨著人工智能技術(shù)的快速發(fā)展，為經(jīng)濟(jì)和社會發(fā)展注入新動力的同時(shí)，也帶來了前所未有的安全挑戰(zhàn)。作為國家網(wǎng)絡(luò)空間安全建設(shè)的中堅(jiān)力量，天融信始終站在技術(shù)前沿，通過持續(xù)的技術(shù)革新和服務(wù)優(yōu)化，不僅幫助企業(yè)應(yīng)對當(dāng)前的安全挑戰(zhàn)，更著眼于未來的智能化轉(zhuǎn)型，為構(gòu)建一個(gè)更加安全、可靠的數(shù)字世界貢獻(xiàn)力量。

*部分圖片來源于網(wǎng)絡(luò)

相關(guān)閱讀

1、天融信：離線天問大模型接入DeepSeek，安全大模型本地化全面提速

2、天融信正式接入DeepSeek！強(qiáng)化大模型網(wǎng)絡(luò)安全防護(hù)勢在必行

3、天融信接受央視采訪：加強(qiáng)防范，警惕仿冒DeepSeek的詐騙行為！

4、《信息安全研究》訪談天融信：國產(chǎn)應(yīng)用崛起背后的網(wǎng)絡(luò)安全保衛(wèi)戰(zhàn)