人工智慧是否會導致網路安全人員大量失業？生成式人工智慧帶來了哪些新的威脅和挑戰？網路安全能否“以魔術打敗魔術”，並從人工智慧技術中受益？
隨著人工智慧技術的突破性發展，攻擊者正在加速人工智慧的採用，結合社會工程技術，使企業難以防範同時，在防守端，AI也是CISO贏得AI軍備競賽的關鍵**。
2024 年，人工智慧將如何改變網路安全的遊戲規則？近日，VentureBeat 採訪了來自 13 家公司的 15 位網路安全領導者，總結了他們對 2024 年的看法。 受訪者普遍認為，2024 年首席資訊保安官的首要目標是建立安全人員、人工智慧和合作夥伴關係。 人工智慧需要人類的洞察力才能充分發揮其抵禦網路攻擊的潛力，以下是安全專家的要點：
人工智慧為檢測能力帶來改進和挑戰
Peter Silva，Ericom 網路安全部
AI 的模式識別功能可用於提高檢測能力（例如，新的攻擊模式或 CVE 漏洞，包括攻擊嘗試，甚至是掩蓋無意中撞庫攻擊的 L3DDoS 攻擊）。 但與此同時，AI也會使檢測變得更加困難，例如，檢測器無法區分人類的釣魚攻擊和AI生成的釣魚攻擊，這將促進檢測技術的不斷發展。
影子AI和大規模模型部署帶來新的資料安全風險
Elia Zaitsev，Crowdstrike 首席技術官
Crowdstrike 預計，到 2024 年，攻擊者將把注意力轉移到 AI 系統上，將其作為最新的威脅載體，通過批准的 AI 部署中的漏洞和員工未經批准使用 AI 工具（影子 AI）的盲點來攻擊目標組織。
安全團隊對 AI 威脅模型和監控員工影子 AI 的了解仍處於早期階段，這些盲點和新技術為渴望滲透企業網路或訪問敏感資料的威脅行為者開啟了大門。 在沒有安全團隊監督的情況下使用新 AI 工具的員工將為公司帶來新的資料洩露風險。
過度依賴人工智慧導致缺乏對安全運營的監督
Rob Gurzeev，Cycognito首席執行官
生成式人工智慧將對安全產生積極影響，但它也帶來了巨大的風險：人工智慧會讓安全團隊過於自滿，這是危險的。 過度依賴人工智慧會導致對組織的安全運營缺乏監督，這很容易在攻擊面上造成漏洞。 不要以為一旦AI變得足夠聰明，就能減少對人類洞察力的依賴，其實是“滑坡”。
人工智慧可以幫助企業提高防禦響應速度
Howard Ting，Cyberh**EN首席執行官
Cyberh**en 今年早些時候的調查資料顯示，47% 的員工將機密資料貼上到 ChatGPT 中，其中 11% 的資料是敏感資料。 但事情最終會變得更好，隨著大型語言模型和生成式人工智慧的成熟，安全團隊將能夠使用它來加速防禦。
生成式 AI 提高安全大資料的可用性
John Momorello，Gutsy 聯合創始人兼首席技術官
生成式 AI 在幫助安全團隊有效處理大量事件資料方面具有巨大潛力。 傳統的資料湖和 SIEM 方法只是收集資料，對資料的易用性幾乎沒有什麼作用，而對話式 AI 可以大大提高資料的可用性。
生成式 AI 降低了關鍵基礎設施攻擊的准入門檻
Jason Urso，Honeywell Connected Enterprise 首席技術官
關鍵基礎設施一直是惡意行為者的主要目標。 以前成功的攻擊涉及的複雜性超出了普通黑客的能力。 然而，生成式人工智慧降低了進入門檻，允許經驗不足的黑客生成惡意軟體，發起複雜的網路釣魚攻擊以訪問系統，並執行自動滲透測試。
關鍵基礎設施的威脅形勢正在演變為人工智慧 （AI） 防禦。
在關鍵基礎設施的防禦方面，生成式人工智慧將被用作一種閉環的 OT 防禦方法——隨著威脅形勢的變化動態更改安全配置和防火牆規則，並執行自動滲透測試以了解風險變化。 ”
人工智慧並不意味著網路安全人才將失業
Srinivas Mukkamala，Ivanti 首席產品官
2024年，許多員工將更加擔心人工智慧對他們職業生涯的影響。 例如，最近的研究發現，近三分之二的IT員工擔心人工智慧將在未來五年內取代他們的工作。 企業領導者需要向員工明確透明地說明他們計畫如何實施人工智慧，以留住有才華的員工——因為可靠的人工智慧需要人工監督。
此外，人工智慧將產生更複雜的社會工程攻擊。 到 2024 年，人工智慧工具的日益普及將使社會工程攻擊更容易獲得。 隨著公司越來越擅長檢測傳統的網路釣魚電子郵件，黑客已轉向新技術來提高網路釣魚電子郵件的可信度。 此外，不良行為者使用人工智慧工具製造的錯誤資訊將對組織、**和整個社會構成真正的威脅。
生成式人工智慧將改變網路安全角色的工作性質
Merritt Baer，Lacework 首席資訊官
機械人不會接管安全工作，但它們將改變網路安全工作的性質。 許多安全專業人員已經在使用 AI 來自動化重複性任務，但如果他們更進一步呢？如果生成式 AI 不僅可以提示你編寫乙個自動化程式（“這是你本週看到 x 次請求的問題;你想自動化它嗎？如果需要，它還可以為您提供該怎麼做（例如，編寫漏洞緩解或補丁）。 我預計網路安全工作的最終價值將與計算機程式設計教母 Adalovelace 一致，她預見到人類的創造力和創新思維是必不可少的;計算機擅長可靠的處理，從大型資料集中推導出模式，並以數學精度執行操作。 ”
AI 幫助安全團隊跟上開發步伐
Ankur Shah，Palo Alto Networks Prisma Cloud 高階副總裁
當今的安全團隊無法跟上應用程式開發的步伐，導致生產環境中存在無數的安全風險。 不幸的是，應用程式開發正在加速，越來越多的開發人員使用 AI 快速編寫和發布新應用程式，AI 將在不久的將來將應用程式開發速度提高 10 倍以上。 為了給安全團隊提供公平的競爭環境，企業安全需要轉向人工智慧。 最後，人工智慧主要是乙個資料問題，如果你沒有強大的安全資料來訓練人工智慧，那麼你阻止風險的能力就會滯後。
生成式 AI 打造多才多藝的安全分析師
Matt Kraning，Palo Alto Networks Cortex 首席技術官
如今，安全分析師必須成為全能的獨角獸，不僅要了解攻擊者如何入侵，還要了解如何設定複雜的自動化和查詢以有效地處理大量資料。 現在，生成式人工智慧將使安全分析師更容易與資料進行互動。
人工智慧是檢測網路釣魚電子郵件的關鍵能力
Christophe van de Weyer，Telesign 首席執行官
欺詐者正在使用 AI 技術來擴大攻擊規模，例如使用 AI 生成的深度偽造語音或寫作風格來提高成功率，這導致 2023 年的網路釣魚電子郵件數量創下歷史新高。 到 2024 年，消費者將很難辨別欺詐性電子郵件和簡訊，這將迫使企業加強防禦並更加關注帳戶完整性，因為網路釣魚通常用於接管帳戶並執行更重大的盜竊。 企業應使用人工智慧，根據對欺詐訊號的持續分析，對登入和交易進行風險評分。 網路安全公司應擴大對機器學習中欺詐訊號的學習，為電子郵件安全計畫提供高質量的資訊。
人工智慧將解決威脅檢測、分類和響應方面的挑戰
Rob Robinson，Telstra Purple EMEA 負責人
如今，網路安全專業人員負責監控和管理的資料點數量驚人。 隨著雲和智慧型邊緣的激增，這種情況在未來幾年只會加劇。 AI 技術非常適合解決安全行業在威脅檢測、分類和響應方面的一些最困難的問題。 因此，到 2024 年，我們將看到 AI 再次改變 CISO 所需的必要技能。
生成式人工智慧將全面提高安全運營的自動化水平
Vineet Arora，Winwire 首席技術官
生成式人工智慧將極大地增強網路安全運營管理能力。 人工智慧將在目前由人工管理的安全工作流程中實現更多的自動化，例如威脅情報、安全強化、滲透測試和檢查工程。 許多日常任務（如日誌分析、事件響應和安全修補）都可以通過生成式 AI 實現自動化，從而為安全分析師騰出寶貴的時間專注於更複雜的網路安全問題。 同時，攻擊者使用生成式 AI 為社會工程攻擊、惡意軟體偽裝和複雜的網路釣魚活動建立高度“逼真”的場景。
生成式 AI 大幅提公升合規效率
Zscaler 首席人工智慧官 Claudionor Coelho 和產品管理副總裁 Sanjay Kalra
生成式人工智慧將在 2024 年對合規性產生重大而深遠的影響。 從歷史上看，合規性一直是一項耗時的工作，包括制定法規、執行限制、獲取證據和回答客戶問題。 這主要集中在文字和程式上，生成式人工智慧將大大提高其自動化水平。