天融信：DeepSeek接入潮，容器安全筑牢AI算力防線！

發布時間：2025-02-28

瀏覽次數：1398

近期，以DeepSeek為代表的國產大模型部署數量呈指數級增長，企業爭相把它請進自家機房，希望借助大模型的力量提升業務競爭力。繁榮景象背后，企業也面臨著多模型、多環境、多場景下的安全大考。

容器技術是云計算和DevOps實踐的核心組件，已成為大模型部署與運行的重要支撐。其具備輕量級、可移植性和高效性，能助力大模型本地部署實現安全管理、快速部署、靈活擴展及高效交付。

訓練環境管理：大模型訓練需要復雜的軟件環境和強大的硬件資源（如GPU）支持。容器技術能有效管理訓練環境，支持任務單獨運行，借助編排工具還可動態分配GPU和CPU資源，避免模型訓練沖突，提升資源利用率。

推理服務部署：大模型推理服務要求高可用性和低延遲。容器技術將其打包成鏡像，可快速部署到生產環境，利用Kubernetes負載均衡，將請求分發至多個實例，提高服務可用性與性能。

持續集成與交付：大模型開發部署需頻繁迭代更新。容器技術將訓練和推理代碼打包成鏡像，實現自動化構建測試，提高開發效率。借助編排工具，還能無縫進行版本更新和回滾，保障開發部署順利。

多租戶環境支持：大模型平臺化服務中，多個用戶或團隊通常共享基礎設施。容器技術支持多租戶安全隔離，通過資源限制為各用戶或團隊分配獨立配額，讓大模型在獨立容器中運行，實現數據共享，避免數據泄露和環境沖突。

隨著容器技術的廣泛應用，為大模型部署提供了諸多便利，與此同時也帶來了新的安全挑戰。

鏡像潛藏的定時炸彈

大模型一般使用已經打包好的基礎容器鏡像進行部署，一旦使用了含漏洞或惡意代碼的容器鏡像，就如同埋下一顆定時炸彈。例如，在模型訓練時，攻擊者可以利用鏡像中的惡意代碼，獲取用戶私有數據，并進行非法售賣，這將給用戶帶來不可估計的損失。

運行漏洞的越獄危機

攻擊者可以利用容器運行時的漏洞，突破容器隔離，訪問主機系統或其他容器。例如，2019年發現的RunC漏洞（CVE-2019-5736）允許攻擊者從容器內逃逸到主機，導致用戶的GPU資源被惡意控制和使用，如用于挖礦等行為，給用戶的硬件投資帶來嚴重損失。

網絡通信的諜影迷霧

容器之間的網絡通信極有可能成為攻擊者的目標。一旦一個容器被入侵，攻擊者可能通過網絡橫向移動到其他容器或主機。如果容器之間的通信未加密，還可能被竊聽或篡改，嚴重威脅數據安全。

編排工具的隱秘后門

容器編排工具（如Kubernetes）的配置不當堪比后門大開。攻擊者可能通過未授權的API訪問控制整個容器集群。例如，開放的Kubernetes Dashboard若因錯誤暴露，可能被攻擊者利用獲取集群的控制權。

四大維度切入

應對大模型應用過程中容器風險

天融信容器安全檢測系統基于DevSecOps理念開發，以環境安全、鏡像安全、網絡安全、工作負載安全四大維度為切入點，覆蓋云原生應用從構建、分發到運行的各個階段，提供鏡像掃描、運行防護、零信任微隔離與合規基線檢查等功能，實現容器全生命周期的安全防護，幫助客戶解決AI大模型應用過程中容器逃逸攻擊、供應鏈攻擊等安全風險。

鏡像掃描：對本地鏡像、倉庫鏡像展開安全分析，及時發現鏡像中包含的軟件漏洞、惡意代碼、敏感信息等安全風險，有助于在早期深入發現軟件供應鏈和技術棧中潛在的安全風險，有效減少系統的攻擊面，提高攻擊門檻。

運行防護：通過監控容器內部網絡、文件、進程、系統調用等數據分析，建立行為基線，持續監測容器逃逸行為風險，覆蓋木馬病毒、挖礦病毒、提權、反彈shell等多種威脅場景。

零信任微隔離：通過流量分析自動生成容器業務之間的通信的關系，并且根據通信關系了解業務端口通信情況，自動生成微隔離策略，保障容器間通信安全。

合規基線檢查：內置容器、容器鏡像、主機、k8s多種類型的基線庫，對各類資產的配置進行合規性檢查并給出整改意見，降低容器環境安全風險。

隨著DeepSeek接入越來越多的平臺，API接口在大模型的訓練、推理和數據交換中頻繁使用也帶來了未授權訪問、數據泄露、濫用與攻擊等安全問題。天融信零信任API代理系統基于分布式微服務架構開發，采用流量控制、攻擊防御、訪問認證、數據防泄露等多頂核心技術，支持大模型API進行統一管理和安全防護，解決應用API接口對外提供服務過程中惡意訪問、敏感數據泄露，DDoS攻擊等安全問題。

此外，針對大模型系統安全防護，天融信已推出專用大模型安全評估產品與服務，全面支持DeepSeek、通義千問、Kimi、文心一言、豆包等主流大模型，并對防火墻、WAF、網絡防泄露等產品進行全面升級，為大模型安全運行提供堅實安全保障（點擊查看更多詳情）。