人工智慧 （AI）、大型語言模型 （LLM） 和物聯網解決方案的興起創造了新的安全格局。 從可以學習建立惡意 AI 工具的生成式 AI 工具，到攻擊者利用連線裝置作為在網路中橫向移動的一種方式，企業 IT 團隊發現自己正在迎頭趕上。 根據 Google Cloud 2024 年網路安全預測報告，隨著生成式 AI 工具和 LLM 技術的普及，公司應該期待它們激增。
對於網路保護者來說，結果是乙個殘酷的事實：不可能跟上。 雖然攻擊者可以從使用任何東西來破壞業務網路的漫無目的的方法中受益，但公司最好保持安全性的直接性和範圍。 這造成了不平衡。 即使惡意行為者突破了他們的極限，防禦者也必須堅持到底。
但這也不全是壞訊息。 通過返璞歸真的方法，組織可以降低風險、減輕影響並開發改進的威脅情報。 就是這樣。
攻擊媒介在不斷演變。 例如，互聯的物聯網環境為惡意行為者創造了新的機會：如果他們能夠滲透到單個裝置中，他們可能能夠不受限制地訪問網路。 與此同時，正如 zdnet 所指出的，LLM 現在正被用於通過消除語法錯誤和新增文化背景來改進網路釣魚活動，而生成式 AI 解決方案則建立看起來合法的內容，例如提示業務使用者採取行動的發票或電子郵件說明。
對於企業來說，很容易看到樹木而不是森林。 對人工智慧威脅的興起和物聯網風險的擴大的合理擔憂可能導致安全團隊變得過於專注，使網路在不經意間變得脆弱。
雖然可能有更多的攻擊路徑，但這些路徑最終會通向同乙個地方：企業應用程式、網路和資料庫。 考慮一下 2024 年的一些網路安全趨勢，其中包括 AI 製造的網路釣魚電子郵件、“分身”使用者和令人信服的深度偽造。
儘管方法不同，但這些新攻擊仍然有熟悉的目標。 因此，企業返璞歸真的最好方法是返璞歸真。
對於攻擊者來說，價值來自竊取資訊、中斷操作或劫持資料。
這會產生漏斗效應。 頂部是攻擊媒介，從人工智慧到詐騙電話，再到漏洞利用，再到巨集惡意軟體。 隨著攻擊轉移到網路，漏斗開始縮小。 雖然有多種入侵途徑（例如，公共雲、使用者裝置和面向網際網絡的應用程式），但它們遠遠少於攻擊媒介對手。
漏斗的底部是受保護的資料。 這些資料可能存在於資料庫、公有雲或應用程式中的現場或異地，但它同樣代表了整個攻擊管道的縮小。 因此，組織無需面對面面對每一次新的攻擊。 相反，安全團隊應該專注於不同攻擊媒介的共同最終目標：資料。
有效應對新的攻擊媒介意味著優先考慮熟悉的操作，例如識別關鍵資料、跟蹤攻擊指標 （IOA） 和採用零信任模型。
利用人工智慧加速安全防禦。
考慮一家受到 AI 輔助攻擊威脅的企業。 黑客使用生成工具和法學碩士，建立了難以找到的**，並被設計為針對特定資料集。 乍一看，這種情況似乎勢不可擋：公司如何應對他們無法應對的威脅？
簡單：從基礎開始。
首先，識別關鍵資料。 鑑於企業現在正在生成和收集的大量資訊，不可能同時保護每條資料。 通過識別重要的數字資產，如財務、智財權或人員資料，企業可以將精力集中在保護上。
接下來是跟蹤 IOA。 通過實施有助於查明常見攻擊特徵的流程，團隊可以更好地準備在威脅出現時做出響應。 常見的 IOA 可能包括特定資料訪問請求的突然增加、沒有可識別原因的廣泛使用的應用程式中的效能問題，或者登入嘗試失敗的次數增加。 有了這些資訊，團隊可以更好地了解可能的攻擊路徑。
最後，如果攻擊者設法洩露登入名和密碼資料，零信任模型可以幫助提供保護堡壘。 通過採用始終經過驗證的方法，將行為和地理資料與強大的身份驗證流程相結合，組織可以在最後一道障礙上阻止攻擊者。
在關注新攻擊媒介的結果而不是輸入的同時，組織可以降低安全風險。 但也需要實施人工智慧和LLM等新工具，以幫助加強網路安全工作。
考慮生成式 AI 工具。 正如GenAI可以幫助攻擊者建立難以檢測和反擊的攻擊**一樣，它還可以幫助網路安全團隊分析和識別常見的攻擊模式，幫助組織將精力集中在可能的入侵路徑上。 但是，值得注意的是，如果公司沒有端點可見性來了解攻擊的來源以及哪些系統處於危險之中，那麼這種識別將無效。
換句話說，實施新工具並不是靈丹妙藥——它們只有在與可靠的安全和衛生相結合時才有效。
正如攻擊者可以利用新技術來提高入侵效率一樣，公司也可以利用 AI 安全來幫助防禦潛在威脅。
但是，惡意行為者可以逍遙法外。 如果 AI 增強的惡意軟體或經過 LLM 審查的網路釣魚電子郵件不起作用，它們可以簡單地回到繪圖板。 然而，對於網路安全專業人員來說，失敗充其量意味著系統受損，最壞的情況是資料被盜或勒索。
結果？ 安全的成功取決於更聰明地工作，而不是更努力地工作。 從回歸基礎開始：查明關鍵資料，跟蹤攻擊，並實施對所有使用者進行身份驗證的工具。 它通過有針對性地使用人工智慧而得到改進。 通過利用具有高階 AI 威脅情報功能的 IBM Security QRarad Suite 或提供內建 AI 異常檢測的 IBM Security Guardian 等解決方案，組織可以更好地應對當前威脅並降低未來威脅的風險。