1.中小型企業更願意採用GenAI，但往往忽視安全措施
根據 Zscaler 今年對 900 多名全球 IT 決策者進行的一項調查，95% 的受訪組織已經在其業務中以某種形式使用這些技術，儘管 89% 的組織認為 ChatGPT 等 GenAI 工具存在潛在的安全風險。
令人擔憂的是，23% 的使用者根本沒有監控 Genai 的使用情況，33% 的使用者沒有對 Genai 應用程式採取額外的安全措施。 對於小型企業（500-999 名員工）尤其如此。 51% 的受訪者預計，他們的組織將在 2024 年看到對 GenAI 工具的興趣進一步增加，這需要迅速採取行動來縮小 Genai 採用與安全性之間的差距。
2.大多數企業不知道如何應對基因應用風險。
ISG研究資料顯示，85%的受訪公司認為，在未來24個月內，對GenAI的投資意義重大或至關重要。 然而，大多數公司並沒有採取“白紙”的方法，而是要求或通過服務提供商將 Genai 應用程式整合到其現有服務中。
關於生成式人工智慧的最大擔憂之一是偏見和誤解。 當生成式 AI 無法生成問題的正確答案時，就會形成“AI 錯覺”。 此外，企業還擔心在應用AI時，資料質量和模型損壞或中毒的可能性。 雖然許多組織看到了GenAI的潛力，但很少有人知道如何應對採用AI的風險。 ISG報告指出，企業在通過人工智慧技術實現跨越式發展之前需要克服的障礙包括安全、版權問題、道德考慮和法律問題。
3.ChatGPT 應用程式的受歡迎程度引發了全球 GenAI 投資的激增。
人工智慧並不是一項新技術，多年來，許多科技公司一直在**和可解釋的人工智慧上投入巨資。 不過，研究機構IDC表示，OpenAI發布的GPT-3Series 5應用，引起了全世界的關注，並引發了對genai的投資激增。 IDC 預計，到 2027 年，全球在 AI 解決方案上的支出將增長到 5000 億美元以上。 大多數組織都在向 AI 增強型產品和服務過渡。
4.企業技術領導者努力跟上 AI 的發展。
根據哈維·納什（Harvey Nash）的乙份新報告，人工智慧技術正在全面挑戰組織的傳統發展模式，但只有15%的企業技術領導者表示他們已經準備好採用GenAI，88%的受訪者表示必須加強對人工智慧技術採用的監管。 研究人員發現，儘管人工智慧市場有所增長，但只有10%的組織已經大規模實施了人工智慧，而更多的組織仍處於試點或小規模實施階段。
近45%的企業技術領導者表示，人工智慧技術是目前其組織最稀缺的技能領域，技能短缺將使企業無法跟上技術變革的步伐。
5.企業有充分的理由關注GenAI應用程式的安全性。
根據 Portal26 發布的調查資料，三分之二的受訪者承認在過去一年中發生過 Genai 安全或濫用事件。 73% 的受訪者已經經歷過與 GENAI 相關的安全事件，其中 67% 發生在 2023 年。 據研究人員稱，對 GENAI 應用程式和應用程式風險的安全問題越來越多，包括影子 AI 應用程式 （58%）、資料私隱 （56%）、合規治理 （63%）、智財權保護 （62%）、培訓偏見 （55%）、資料安全 （60%） 和員工培訓 （58%）。
6.首席資訊保安官需要提前為人工智慧引發的網路攻擊做好準備。
根據 Abnormal Security 提供的監控資料，2023 年組織的電子郵件攻擊數量和複雜程度顯著增加，這很可能是由於攻擊者廣泛使用 GenAI 技術。
最讓安全研究人員擔心的是，GenAI不僅使電子郵件攻擊變得越來越複雜，而且還能夠幫助攻擊者根據公開資訊製作高度針對性和個性化的欺詐性電子郵件。
到 2023 年，已經有很多人經歷了這些威脅，803% 的受訪者證實他們的組織收到了 AI 生成的電子郵件攻擊。 但是，絕大多數安全領導者都沒有做好充分的準備來抵禦人工智慧生成的電子郵件攻擊。 傳統的安全方法難以應對人工智慧生成的網路攻擊，46%的受訪者對檢測和阻止人工智慧生成的攻擊缺乏信心。
7.通過構建 GenAI 功能來促進業務增長。
根據 IDC 研究人員的說法，現代企業組織應盡快踏上 GenAI 技術採用之旅，以實現業務成功，這需要與 GenAI 投資相關的持續基礎活動、確定用例優先順序的指導，以及確定制定和實施成功計畫所需的關鍵利益相關者。 構建和使用 Genai 模型將需要新功能，例如“提示工程師”為 Genai 系統編寫和測試提示。 每個組織都必須為核心 AI 技術和業務能力建立新的技能地圖，以便在整個組織中大規模部署 GenAI。 組織還應該為關鍵角色建立個性化的培訓計畫。
8.Genai 可能會將 DevOps 和 SecOps 引入危險的領域。
根據Sonatype的說法，企業應用程式安全領導者和軟體開發領導者長期以來一直認為，GenAI技術將導致軟體開發中更普遍的安全漏洞，可能會將DevOps和SECOPS引入危險領域。
根據調查，97%的受訪DevOps和SECOPS領導者已經在使用GenAI技術。 然而，大多數受訪者都認為，安全風險是他們對使用該技術的最大擔憂。 然而，雖然DevOps和SECOPS受訪者對GenAI的風險認知很高，但採用率存在顯著差異。 45% 的 SECOPS 領導者在其軟體開發過程中實施了 GenAI，而 DevOps 的這一比例為 31%。 57% 的 SECOPS 受訪者表示，GenAI 每週至少為他們節省了 6 個小時，而 DevOps 中只有 31% 的受訪者表示。
9.企業對GenAI的SaaS服務的安全隱患感到擔憂
根據 Snow Software 的說法，企業 IT 領導者正在努力應對 GenAI 應用程式風險挑戰，雖然 96% 的受訪者仍然對其組織的 SaaS 安全措施“有信心或非常有信心”，但 IT 領導者現在必須將 GenAI 的風險影響納入其整體 SaaS 安全方法。 23%的受訪者表示，Genai應用程式是最令人擔憂的SaaS安全問題。 57%的受訪者表示，如果SaaS供應商在他們不知情的情況下使用GenAI，他們會感到震驚和焦慮。