LLM Guard 現已免費提供，是乙個行業領先的開源專案，用於保護大型語言模型 （LLM） 免受安全威脅、濫用和快速登入攻擊，同時還提供管理風險和合規性需求的工具。
OpenAI 的 GPT-4 和其他 LLM 正在徹底改變人工智慧的應用領域，因為它擅長理解和生成語言。 據多位行業分析師稱，它們的採用跨越了各個領域，包括客戶服務、醫療保健和內容創作，推動市場從 2023 年的 113 億美元增加到 2028 年的 518 億美元。 在對聊天機械人和虛擬助手等應用程式的需求的推動下，這種增長使 LLM 成為希望利用文字資料獲得競爭優勢的企業的關鍵工具。 然而，安全和濫用問題限制了大公司的廣泛採用。
Protect AI 很高興地宣布收購 Laiyer AI 的團隊和產品套件，這顯著增強了我們領先的 AI 和 ML 安全平台。 這些新功能將使我們在汽車、能源、製造、生命科學、金融服務和**行業的客戶能夠開發安全可靠的GenAI（生成式人工智慧）應用程式。 “我們行業領先的平台現在具有先進的功能和過濾器，可以管理LLM提示和響應，增強終端使用者體驗，並重申我們對保護生成式AI應用程式的承諾。” ”
2023 年，OWASP 前 10 名 LLM 應用程式強調了與部署大型語言模型 （LLM） 相關的獨特安全風險，企業領導者應注意這些風險。 主要風險包括及時進入、訓練資料中毒和鏈漏洞。 乙個值得關注的問題是提示輸入漏洞，攻擊者可以通過精心構建的輸入來操縱 LLM，從而導致資料洩露或操縱決策。
這些攻擊可以是直接的（通過 LLM 的輸入），也可以是間接的（通過受汙染的資料來源），並且由於對 LLM 輸出的隱式信任，通常可以繞過檢測。 隨著即將到來的 LLM 法規，防範此類惡意活動和有害響應以維護公司的完整性和安全性至關重要。
Laiyer AI 的 LLM Guard 是一種突破性的安全解決方案，可解決與部署 LLM 相關的挑戰。 與市場上流行的許多閉源、未經測試的選項不同，LLM Guard 提供了一種透明的開源替代方案，可以增強在企業規模部署 LLM 的信心。 這個創新工具旨在增強 LLM 互動的安全性，支援專有和第三方模型。
LLM Guard的核心功能包括對LLM輸入和輸出的檢測、編輯和處理，有效降低及時輸入的個人資料洩露風險。 這些功能對於保護 LLM 功能同時防止惡意攻擊和濫用是必不可少的。 此外，LLM Guard 與現有的安全工作流程無縫整合，提供日誌記錄和指標等可觀察工具。 這使 Laiyer AI 處於提供基本安全解決方案的最前沿，使開發人員和安全團隊能夠安全高效地部署 LLM 應用程式。
市場上顯然需要一種解決方案，該解決方案能夠從頭到尾保護 LLM 用例，包括擴充套件到生產環境。 通過與Protect AI合作，我們將擴充套件Protect AI產品的LLM安全能力，以提供業界最全面的端到端AI安全平台。 Laiyer AI 聯合創始人 Neal Swaelens 和 Oleksandr Yaremchuk 說。
LLM Guard 是 LLM 在企業安全領域的領先效能領導者。 這一創新解決方案平衡了延遲、成本和準確性，在短短 30 天內就實現了 HuggingFace 上的 13,000 多個庫**和 250 萬個專有模型的採用規模。 LLM Guard 的效能得到了改進，CPU 推理延遲降低了 3 倍，並且可以使用經濟高效的 CPU 解決方案代替昂貴的 GPU，而不會影響準確性。 LLM Guard 是該領域的領導者，鞏固了其作為 Langchain 和其他幾家領先全球企業的預設安全掃瞄程式的地位。
Laiyer AI 的整合鞏固了 Protect AI 作為 AI 安全和 MLSecops 首要平台的地位。 Protect AI 提供無與倫比的功能，使企業能夠構建、部署和管理不僅安全、合規而且運營高效的 AI 應用程式。 Protect AI 由 Amazon 和 Oracle 的 AI 領導者創立，由 Crew Capital、Boldstart Ventures、Evolution Equity Partners、Knollwood Capital、Pelion Ventures 和 Salesforce Ventures 提供支援，總部位於美國西雅圖。