我今天分享的是【2024年大型模型安全解決方案***報告製作人：安全。
精選報告** 公開標題：全球行業報告庫
|安全風險的重要性
隨著大型模型技術的飛速發展，在各個領域的應用越來越廣泛，從科研到商務，再到日常生活、辦公等各個方面。 然而，隨之而來的是一系列潛在的安全風險，這些風險的發生和應對不僅關係到企業的聲譽，也關係到個人私隱的保護和社會穩定。 因此，了解和應對這些安全風險至關重要。
首先，大型模型在使用者搜尋歷史、社互動動、金融交易等應用場景中處理大量敏感資料和個人資訊。 這使得資料洩露和私隱洩露的風險不容忽視。 一旦這些敏感資訊被洩露，個人私隱權就會受到嚴重損害，甚至被用於惡意行為，如身份盜用、欺詐、社會工程攻擊等。 這不僅會給受害者造成經濟損失，還可能導致社會恐慌和不信任。
|資料安全和私隱問題
1. 傳輸攔截風險：在大模型非私有化的預訓練、微調和推理服務中，資料需要在不同主體或部門之間傳輸。 這些資料通常包括各種敏感資訊和私隱，例如個人身份資訊、財務資料等。 如果在資料傳輸過程中沒有採取足夠的安全措施，攻擊者可能會截獲這些資料並獲取敏感資訊，從而給使用者和組織帶來安全和私隱問題。 因此，在使用大模型服務時，必須採取適當的安全措施來保護資料的機密性和完整性，以防止傳輸被攔截的風險。
2. 運營商窺探風險：在微調和推理階段，通常使用個人身份資訊和企業資料等敏感資料來提高模型的準確性和效能。 但是，如果這些資料被大型模型操作員監視或收集，則存在濫用的風險。 運營商可能會使用這些資料來了解使用者的私人資訊，例如個人喜好、行為習、社交網路等，以便進行有針對性的廣告或促銷策略。 此外，運營商可能會將資料洩露給第三方，第三方可能是合作夥伴、資料分析公司、廣告公司等，以獲取不正當利益。
|基於同態密碼的軟體微調推理方案
同態密碼學是一種聯邦習金鑰技術，它提供了在加密狀態下計算和處理資料的能力，從而保護了資料的私隱和安全。 大模型資料保護的思想是通過同態密碼實現大模型的計算邏輯，使大模型能夠接受加密的資料輸入，整體的微調和推理過程是完全密集的，最終的結果也以密集狀態的形式返回給客戶端， 而且整個過程是完全密集的，所以這個過程完全部署在雲端的伺服器端。但是，客戶只需要在緻密化後將本地私隱資料上傳到伺服器，所有計算過程都通過雲外包完成，但雲服務無法獲取計算內容。
對於同態密碼方案，核心是如何通過同態密碼實現大模型的核心計算邏輯，主要包括：、嵌入、transformer（attention） 和 header。 由於同態密碼的計算複雜，支援的計算量有限，如何合理使用同態密碼演算法來滿足可用性和準確性的要求，並在微調和推理階段實現私隱保護方案。
|可信執行環境解決方案
可信執行環境 （TEE） 是處理器中的乙個安全區域，用於保護程式和資料的機密性和完整性，防止從外部竊取和破壞。 與儲存加密和網路通訊加密一起，TEE可以在ATREST和傳輸過程中保護資料私隱和安全。 隨著TEE技術的發展，機密計算技術應運而生，在計算核心和記憶體之間增加了乙個安全處理器，以保護計算核心（INUSE）的資料安全和私隱。
由於TEE包含多個硬體模組，涉及資料處理和流通的全生命週期，相對容易受到側通道攻擊，因此需要構建縱深防禦的安全體系來抵禦來自不同方向的攻擊，加強安全測試主動發現問題，及時更新系統中所有元件的安全補丁。
|基於沙盒的安全解決方案
安全沙箱技術是一種通過構建可除錯和執行的隔離安全環境來分離模型、資料使用許可權和所有權的技術同時提供模型微調計算所需的算力管理、通訊等功能，保證模型主的預訓練模型能夠在沒有模型主定義的私有邊界的情況下完成模型微調任務。
安全沙箱產品是提供給模型開放共享過程中所有參與者的軟體系統或軟硬體整合系統，提供模型安全和開放共享所需的算力管理、通訊等功能，滿足計算任務的要求。
本文僅供參考，不代表我們的任何投資建議。 如需使用這些資訊，請參閱原始報告。 ）
精選報告** 公開標題：全球行業報告庫