生成式人工智慧時代的零信任：以創新方式保障資訊安全

2025 March 24

簡介：對人工智慧增強型網路安全的需求不斷增加

企業安全計畫正在透過採用新一代人工智慧技術（包括產生人工智慧（GenAI））而迅速發展，它提供了許多好處，但也帶來了新的風險和威脅。這把雙面刃已成為企業主管關注的一大問題。一種行之有效的策略——零信任，對於應對這些新風險至關重要，因為它涉及持續驗證並且永不信任，從而確保在人工智慧時代保護您的資訊。

第 1 部分：零信任的重要性

高階主管為何應關注

零信任對高階主管來說至關重要，它在利用人工智慧的同時確保資訊安全，因此，它是全面網路安全策略的關鍵組成部分。這些風險包括身分外洩、人工智慧惡意軟體和勒索軟體迅速利用平面網路中的伺服器、個人電腦和伺服器，以及隨後的未經授權的資料外洩。零信任是抵禦這些新的GenAI 風險的重要防禦措施。

GenAI 帶來了哪些新的風險？

人工智慧有新的風險類別，有些是外部產生的，有些是內部產生的。外部行為者使用欺騙的身份和域名，很難區分人工智慧生成的電子郵件和真實電子郵件，以及深度偽造的圖片、影片和虛假的 Zoom 與會者，而高級犯罪分子可以使用人工智慧進行零日惡意程式碼創建。內部產生的威脅包括糟糕的人工智慧模型和訓練，基於人工智慧的答案完全是錯誤的，以及員工造成的資料洩露，即智慧財產權遺失、被盜或被用於為競爭對手訓練模型。安全主管需要意識到並確保採取對策來應對所有這些風險。

第 2 部分：GenAI 的零信任

零信任基礎知識

零信任安全需要強大的身分和存取控制、網路分段和最小特權存取。透過適當的工具和程序，旨在執行政策、防止資料外洩並阻止未經授權的人工智慧使用損害企業，從而確保敏感資訊的安全。

監控和補救

零信任不是一種在設定後就忘記的方法，因為它需要持續的監控和快速的回​​應；借助新的人工智慧增強功能，我們可以自動監控惡意活動並做出快速回應。

第 3 部分：能力與最佳實踐

利用人工智慧實現安全

人工智慧無疑將在零信任計畫中發揮關鍵作用，因為基於人工智慧的工具可以監控惡意活動、從過去的攻擊中學習、推薦補救措施和/或即時採取行動，因此利用人工智慧驅動的安全能力來阻止最新的快速威脅至關重要。使用人工智慧增強型智慧控制對於檢測和回應至關重要，從而確保組織資料和基礎設施的安全。

資料保護

保護專有資料、確保不間斷營運以及維護公司聲譽對於高階主管和業主來說至關重要。 零信任策略透過嚴格的政策來保護數據，因此在提供合規證據的同時，遵守 GDPR 和 CCPA 等法規變得更加容易。

第 4 節：高階主管與零信任

管理人員必須在其組織中倡導成熟的網路安全計劃，最具成本效益的策略之一包括零信任和預防為主的策略。包括執行長、資訊長和首席資訊安全長在內的 C 級領導者應該將更新的網路安全計畫作為優先事項，因為隨著人工智慧的出現，這一點變得更加重要。人工智慧帶來了新的風險，例如人工智慧網路釣魚、資料外洩以及惡意人工智慧 LLM 和模型攻擊。因此，他們需要從被動應對轉變為主動應對，以防止攻擊發生。

預防為主的策略

這種方法著重於儘早預防攻擊，因此管理人員應該投資於防止不良行為者造成問題的技術和政策。他們可以採取以下步驟：

  1. 風險和威脅評估：他們必須定期評估風險和威脅，以識別漏洞（包括與人工智慧相關的漏洞）並預防它們。風險評估需要審查內部和外部威脅並制定對策。最新的企業風險管理器 (ERM) 現已納入基於 AI 的威脅評估功能。
  2. 強身份驗證：他們必須提倡強身份驗證和存取管理，其中包括多因素身份驗證、生物識別以及對使用者和設備活動的監控。這可確保入侵者無法訪問，同時授權使用者可以快速開始工作。具有高權限的使用者也應該有額外的身份驗證層次。
  3. 使用者和應用程式的微分段和最小權限：他們必須確保網路是分段的並以最小權限運行，因為這將減少攻擊者可能造成的損害。這必須在公司辦公室、資料中心和雲端進行架構。
  4. 人工智慧增強型安全工具：他們必須使用人工智慧增強型工具來減輕最新的威脅，因為人工智慧工具可以快速分析大量資料並識別惡意活動。具有人工智慧引擎的防火牆、使用人工智慧檢測最新威脅的電子郵件工具以及均使用人工智慧升級的端點工具都是符合零信任的解決方案。必須使用最新的 AI 增強 WAF 來保護Web 應用程式防火牆和 API 流量。
  5. 資料安全和政策：他們應該保護靜態、傳輸和使用中的數據，因此他們必須確保資料被加密並具有適當的政策，包括資料遺失預防和遵守法規。管理人員也應確保安全是每個人的首要任務，因此他們應該：
    1. 對員工進行安全和零信任原則的訓練。
    2. 確保員工了解政策。
    3. 確保每個人都對安全負責，因為高階主管也應該將安全與業務目標連結起來。
  6. 在安全方面進行充分投資
    1. 確保 IT、法律、合規和業務在安全方面進行協作。
    2. 向董事會提供安全方面的最新信息，包括零信任和預防優先。

 組織已取得的成就範例：

  1. 銀行保護人工智慧模型：例如，一家銀行確保使用零信任程式保護其人工智慧模型的安全，並且還加密 LLM 專有資料、監控模型使用情況並實施存取控制，以僅允許授權使用者存取模型。這種成熟的方法可以防止模型中毒和資料洩露，並且最終成本比準備不足的同行舉辦的活動要低。此外，必須識別使用未經授權的 AI 工具的員工，並指導他們使用授權工具。
  1. 醫院使用人工智慧防止勒索軟體攻擊：一家醫院部署了人工智慧，使用連接到人工智慧威脅雲端的防火牆和 IPS 工具來監控網路流量並檢測異常。透過人工智慧增強其零信任計劃，醫院能夠防止可能危及患者資料的勒索軟體攻擊。
  2. 製造公司：在發生由惡意電子郵件引發的影響營運的事件後，該公司將其電子郵件防禦工具升級為 AI 增強型和 API 增強型，並將其製造車間網路與最終用戶網路隔離開來。

高階主管應注意的要點：

  • 採用具有預防第一思維的零信任計畫和支援該計畫的人工智慧增強安全工具。
  • 投資於最高效、整合且整合的成熟安全工具。
  • 確保安全是每個人的責任，並提供報告安全問題的簡單方法和有價值的培訓。
  • 使安全性與業務計劃和成果保持一致。

概括

生成式人工智慧引入了新的網路安全風險，例如身份欺騙、未經授權存取人工智慧模型以及資料洩露，使得零信任成為保護敏感資訊的關鍵框架。零信任遵循「永不信任，始終驗證」的原則，確保持續驗證、強大的身份控制、網路分段和最小特權訪問，以防止違規。人工智慧透過自動偵測威脅、從過去的攻擊中學習並即時回應，在增強零信任方面發揮著至關重要的作用。組織還必須遵守 GDPR 和 CCPA 等資料保護法規，以保護寶貴的資料；零信任和人工智慧增強工具使這些工作變得更容易、更有效。

包括執行長、資訊長和首席資訊安全長在內的高階主管必須採取預防為主的思維方式並優先考慮零信任計畫來倡導網路安全。這涉及定期風險評估、強大的身份驗證方法、網路分段以及投資人工智慧驅動的安全解決方案。現實世界的例子，例如銀行保護人工智慧模型、醫院防止勒索軟體攻擊以及工廠對關鍵系統進行分割，都凸顯了零信任的有效性和成本節省。透過將安全與業務目標相結合並將其視為共同責任，組織可以主動應對 GenAI 風險並確保對不斷演變的威脅提供強有力的保護。

文章來源/Check Point Blog Check Point Blog

返回