治理人工智慧的運用
Gartner預計，到2026年，有實施人工智慧透明性、信任和安全性的組織將看到他們的人工智慧模型在採用、業務目標和用戶接受度方面達到50%的成果改進。Gartner調查結果顯示，組織已經部署許多IT領導者無法解釋的人工智慧模型，缺乏知識和理解可能會產生嚴重的後果，當依賴增加時，人工智慧模型表現不佳的影響會被放大。不管理人工智慧風險的組織更有可能遇到負面的人工智慧結果和違規行為。模型不會按預期運行，並且會出現安全和隱私問題、財務和聲譽損失以及對個人的傷害。錯誤執行人工智慧也可能導致組織做出糟糕的業務決策。
為確保人工智慧系統的安全性和合規性，企業應當對人工智慧技術的運用進行治理。有效的人工智慧治理將包括以下關鍵控制領域：
- 法規和政策：瞭解適用的法律和法規，制定人工智慧領域的政策
- 標準和規範：制定人工智慧安全要求的標準和規範，以納入人工智慧系統和解決方案
- 技術方法：實施技術措施以因應人工智慧風險
- 安全評估：評估人工智慧系統的安全性、彈性和穩健性，並進行持續監控和審查
- 人才發展：為負責人工智慧開發、部署和管理的員工提供充分的培訓
- 可控環境：確保人工智慧解決方案在其整個生命週期內可解釋且一致，並維持人為對人工智慧系統的監督
安全管理正面臨的挑戰
首先，網路安全產業的勞動力缺口正逐年擴大。在需求面，因新冠病毒疫情肆虐下，世界各國為此實施不同程度的防疫政策，保障人民生命健康。為因應經商環境的轉變，愈來愈多企業因此走向數位化轉型，包括將線下業務移至線上發展、安排員工遠距工作、把IT基礎設施遷移到雲端運算環境等，力求在激烈變化的環境下為企業獲取新的業務機會。但與此同時，企業在網路安全方面所暴露的攻擊面亦隨之增加。為此，企業需要採取措施加強網路安全防護水準，例如聘用網路安全專家或尋求安全託管服務來為企業部署安全解決方案，並對企業IT環境進行監控、評估和優化。
其次，在安全服務供應方面，有研究報告指出可以看到安全營運中心（SOC）在日常營運當中存在不少痛點，有73%的受訪者認為「不斷增加的工作量會導致工作上的倦怠」，有65%的受訪者表示「那些痛點令他們考慮辭去分析師崗位以謀求其他職位」，從長遠的角度來說，市場必將出現安全分析師供應短缺的情況。不少SOC的安全分析師長期面臨著大量枯燥的工作，例如長時間輪班、警報帶來的乏味、耗時的調查，因此，有部分經驗豐富的分析師願意轉向其他職務以減少工作壓力。此外，安全營運團隊每天都需要處理來自多個安全平臺的警報，其中包括不少虛假警報，這遠遠超出了團隊人員能夠負擔的處理速度。
最後，隨著網際網路應用的普及化，相對應網路威脅隨之上升，而且其複雜性也相對增加，為此對網路安全也帶來挑戰。如今，行動設備、物聯網、雲端運算在企業中的應用日益普及，攻擊面也相對增加。此外，駭客可以利用人工智慧來不斷變形病毒/惡意軟體，而傳統的靜態防禦解決方案未必能對此有效檢測以及阻斷。另一個原因是網路犯罪即服務（Cyberattack-as-a-Service）令網路攻擊變得普及，攻擊者自身不須擁有強大的駭客知識，亦可以透過支付加密貨幣獲得攻擊工具。
人工智慧如何改變安全營運
人工智慧在安全營運中的其中一大作用是協助安全分析師工作，畢竟，它不太可能完全取代有經驗的人類。反之，人工智慧可以專注於比人類擅長的領域去協助人類，如分析大數據，替人類進行繁瑣、重複的任務，以便分析師能夠發揮更複雜的技能，如創造力、細微差別和專業知識。
此外，透過人工智慧對安全事件進行分析，查詢大量資料並在整個網路中進行檢視，以蒐集事件的背景並進行調查，整理出優先順序高的事件讓分析師加以關注。同時，人工智慧透過分析人類分析師調查警報的過程，進行訓練以及機器學習，當未來有類似的事件發生時，機器可在通知分析師前生成多個查詢，並同時調查所有威脅。
