The better the question. The better the answer. The better the world works. У вас есть вопрос? У нас есть ответ. Решая сложные задачи бизнеса, мы улучшаем мир. У вас є запитання? У нас є відповідь. Вирішуючи складні завдання бізнесу, ми змінюємо світ на краще. Meilleure la question, meilleure la réponse. Pour un monde meilleur. 問題越好。答案越好。商業世界越美好。 问题越好。答案越好。商业世界越美好。

關於人工智慧,董事會應了解哪些問題?

人工智慧(AI)的重要性得到董事會關注,如果運用得當,能為企業帶來發展機會,反之則使企業面臨風險。成功利用人工智慧的企業有能力推動市場變革、促進營收成長、妥善管理商業風險。但與此同時,人工智慧科技也會催生一系列道德、法律和程式設計風險,需要企業妥善處理。此外,由於業務部門缺乏對人工智慧的理解,很多企業無法把握利用人工智慧的時機和業務環節。

人工智慧是具有破壞性的科技

人工智慧可以改善複雜的決策制定流程,這使其成為了各個產業進行轉型的催化劑。除了可以更有效、更快速地完成繁重且費時的任務,人工智慧還可以帶給管理團隊前所未有的洞察。與大數據和分析結合後,人工智慧對於企業的財務職務是一個無價的工具,可以幫助財務部門更好地理解客戶或模擬未來業務場景。

風險規避工具

機器學習是人工智慧的一種形式,正在企業風險管理中發揮越來越重要的作用。透過機器學習,電腦演算法能夠透過資料訓練而逐步自我完善。企業可以利用人工智慧開發先進的工具,即時監控行為與活動並進行分析。人工智慧系統能夠適應不斷變化的風險環境,因此可以在監理法遵和公司治理等方面持續改善企業的監控能力。除此之外,人工智慧還可以由預警系統發展成為預先認知系統,讓企業防患於未然。

人工智慧還在快速發展階段,其潛能尚未得到完全釋放。但目前,很多重要領域已經開始運用這種技術規避風險:

  • 信用風險和營收模型

    機器學習可以更準確地預測某個體或企業拖欠貸款或逾期還款的可能性。除此之外,機器學習還可以用來建構各種類型的營收預測模型。

  • 網路攻擊

    人工智慧系統經過訓練後可以發現、監控並抵禦網路攻擊。人工智慧可以識別具備某些顯著特徵的軟體(如,經常耗費大量處理能力或傳輸大量資料),隨後採取措施將其關閉,避免網路攻擊。

  • 詐欺偵測

    機器學習技術已經成功地應用於信用卡詐欺監測領域多年。銀行使用歷史支付資料對系統進行訓練,從而監控支付活動中的潛在詐欺行為,中止可疑交易。

  • 供應商風險

    透過整合供應商各方面資訊,包括從供應商的地理和地緣政治環境到財務風險、永續性以及企業社會責任評分等,人工智慧的分析平台可以管理供應商風險。

  • 監督交易中的行為問題和市場濫用情況

    透過將交易資訊與其他交易員行為資訊相關聯,例如,郵件流量、日曆事項、辦公大樓出入次數甚至是電話撥打頻率,金融機構可以利用自動化系統對其交易員進行監控。

採用人工智慧科技的相關風險

對於企業來說,人工智慧既是管理風險的工具,也是大量新風險的來源,需要妥善管理。因此,無論何時採用這種科技,企業都應該辨別各項人工智慧科技應用的風險,以及使用這些應用的業務部門所面臨的風險。常見風險包括,訓練資料品質不佳和程式設計問題,以及資料隱私法規和客戶期望等外部壓力。與人工智慧科技相關的主要風險包括:

  • 演算法偏見

    機器學習演算法能夠識別資料中的模式,並將其編寫在預測、規則和決策中。如果這些模式恰好反映了現有偏見或歧視狀況,那麼機器學習演算法很有可能會放大這種偏見,進而得出強化現有偏見模式的結果。

  • 高估人工智慧科技的能力

    人工智慧科技受到熱烈追捧,因此其現有能力很容易被誇大。鑒於人工智慧系統本身無法理解所執行的任務,而是依賴於訓練資料,因此這種技術並非萬無一失。如果人工智慧系統的輸入資料存在偏見、不夠完整或品質欠佳,那麼其結果的可靠性就會受到影響。

  • 程式設計錯誤

    任何電腦程式都無法避免出錯,人工智慧也是如此。當存在錯誤時,演算法將無法按照預期運行並有可能得出誤導性結果,例如,帶來影響某個組織的財務報告完整性這樣的嚴重後果。

  • 網路攻擊風險

    企圖盜取個人資料或某公司機密資訊的駭客可能會從目標公司的人工智慧系統下手,如果這些駭客控制了制定重要決策的演算法,如駕駛汽車或控制機器人的演算法,網路攻擊的後果將不堪設想。

  • 法律風險和責任

    目前,少有管理人工智慧科技的立法,但這種狀況即將改變。然而,用來分析大量消費者資料的系統很有可能不符合現有或新訂定的資料隱私法規,尤其是歐盟的《一般資料保護規則》(GDPR)。

  • 信譽風險

    人工智慧系統需要處理大量高度敏感性資料,並負責在眾多領域(包括信用、教育、就業和醫療)制定與個人息息相關的重大決策。因此,如果某人工智慧系統存在偏見、容易出錯、遭到駭客攻擊或使用目的不道德,相關組織的信譽將會受到極大影響。

政策回應

在2017年,計算機協會(ACM)下的美國公共政策委員會和歐洲政策委員會發表聲明,簡述一整套有關演算法透明性和問責性的原則1。這七條原則旨在確保建構自動化決策系統的開發者與人類決策制定者遵守同一套準則。原則包括:

  1. 意識(Awareness)
  2. 補救(Redress)
  3. 問責性(Accountability)
  4. 說明(Explanation)
  5. 資料來源(Data provenance)
  6. 可審計性(Auditability)
  7. 驗證和測試(Validation and testing)

1. 《演算法透明度與問責性聲明》(Statement on Algorithmic Transparency and Accountability),計算機協會下的美國公共政策委員會和歐洲政策委員會,2017年5月。

建議

董事會應該瞭解在組織內部及外部應用人工智慧科技的方式,同時確保其組織具備適當的架構,能夠管理相關道德問題,並知道如何應對演算法偏見問題。除此之外,董事會還需要關注新興的機制、政策和法規,確保企業能達到演算法透明度和問責性的平衡。最後,董事會應該相信自身「黑箱」(「黑箱」指一種機器學習系統)的穩固性。為了具備這種信心,董事會應該全面審視人工智慧系統,確定其產出是否符合預期,以及是否存在相應控制措施,以持續監控系統的發展。

董事會應考慮的重要問題:

  1. 董事會是否理解人工智慧對其組織商業模式、文化、策略以及產業的潛在影響?
  2. 董事會如何促使管理階層對人工智慧科技帶來的機會和風險進行策略性回應?
  3. 企業應該如何運用人工智慧科技和新資料集進行治理和風險管理?董事會和審計委員會報告應怎樣改變?
  4. 企業是否具備相應人才策略,可以招聘並留住具備必要技能組合的人才,以管理並實施人工智慧相關專案?
  5. 董事會是否已經要求管理階層評估採用人工智慧科技對企業財務部門或財務報表完整性的影響?

主要聯絡人

涂嘉玲
審計服務部 營運長
+886 2 2757 8888 ext. 88810


劉惠雯
稅務服務部 營運長
+886 2 2757 8888 ext. 88858

何淑芬
總經理暨執業會計師
安永財務諮詢服務股份有限公司
+886 2 2757 8888 ext. 88898

黃昶勳
總經理
安永企業管理諮詢服務股份有限公司
+886 2 2757 8888 ext. 88862