當 AI 從輔助決策走向自主執行，企業該如何建立治理界線？

AI 在消費者端最大的突破並非更高的智慧，而是帶來更便利、更省時的體驗。從導航、內容推薦、線上客服到購物建議，這些風險較低且容易驗證結果的應用，讓 AI 逐漸融入日常生活，也逐步建立人們對 AI 的信任。調查顯示，人們使用 AI 的主要動機在於獲得更快速的服務（57%）、更低的價格（57%）以及更好的產品與服務體驗（42%），相較之下，僅有 25% 的受訪者表示，希望藉由 AI 減少自己做決策的負擔。這顯示多數人看重的是 AI 所帶來的效率與價值，而非單純將決策權交給 AI。企業也開始利用 AI 協助消費者更有效率地表達需求，例如 Nike 推出的 NikeAI 能根據使用者的自然語言描述推薦適合產品，在協助消費者快速找到合適產品的同時，仍保留最終決定權。這類輔助型 AI 雖然看似影響有限，卻是建立使用者信任與觀察自主化接受度的重要基礎。

AI 的應用正逐漸從提升便利性，延伸到更加重要的決策場景，其中健康照護是最明顯的例子。越來越多人將 AI 視為健康問題的第一個諮詢對象，用於症狀判斷、健康資訊查詢及就醫決策參考。調查顯示，有 26% 的受訪者使用 AI 協助診斷症狀或查詢健康資訊，較去年明顯增加。像 Buoy Health 等 AI 症狀評估工具，能根據使用者描述提供醫療建議與就醫指引，正逐漸影響現實的健康決策流程。然而，隨著 AI 開始影響實際的健康決策，如何確保資訊的正確性、安全性與可驗證性，變得更加重要。對企業領導者而言，現階段不必急於追求全面自主化，應密切關注這些已經改變使用者期待的應用場景，因為正是這些日常且低風險的 AI 體驗，將決定人們願意在多大程度上信任並授權 AI。

隨著 AI 逐漸融入日常生活，甚至開始在部分情境下替人們執行任務，人們對 AI 的擔憂並未消失。資料安全、決策控制權、責任歸屬以及內容真實性，仍是使用者最關心的議題。然而，值得注意的是，這些疑慮並未減緩 AI 的採用速度。相反地，人們一方面擔心風險，另一方面卻持續增加對 AI 的使用與依賴，形成「使用速度超越信任建立速度」的現象。

在所有疑慮之中，資料安全仍是最主要的關注焦點。約三分之二的受訪者擔心 AI 系統遭受駭客攻擊或資料外洩，且不到半數的人相信政府或企業能充分保護其個人資料。隨著 AI 參與的任務愈來愈重要，資料安全已不只是技術問題，更直接影響使用者對 AI 的信任基礎。

除了安全性之外，人們同樣重視控制權。超過七成受訪者認為，人類監督仍然不可或缺。他們擔心 AI 所做出的決策無法充分反映自身價值觀與偏好，也希望在重要決策情境下能保有介入及修正的權利。這並非拒絕 AI，而是期待 AI 在創造效率的同時，仍維持足夠的透明度與可控性。

責任歸屬也是另一項重要議題。許多受訪者擔心，當 AI 導致負面結果時，企業無法清楚說明責任歸屬，或未能遵循自身所宣示的 AI 原則與相關法規要求。隨著企業在客戶服務、金融、醫療及營運流程中廣泛導入 AI，如何建立清楚的治理機制與問責制度，將成為企業取得信任的重要關鍵。

此外，生成式 AI 的快速發展也使真實性問題愈發受到關注。近四分之三的受訪者擔心未來將難以分辨哪些內容是真實的、哪些內容是由 AI 生成；多數人也認為 AI 產出的內容應明確揭露生成來源。當人們無法辨識資訊真偽，即使 AI 本身運作正常，也會削弱整體信任感。

因此，企業未來面臨的挑戰已不只如何導入 AI，而是如何建立值得信任的 AI 體驗。使用者不僅關心 AI 能做到什麼，更關心 AI 如何做出決策、是否受到監督，以及在必要時能否介入。真正能獲得長期信任的企業，不只是擁有更先進的 AI 技術，而是能夠透過透明的治理機制、清楚的責任歸屬與以人為本的設計，讓使用者理解、掌控並信任 AI 的運作方式。

正如安永報告所指出，信任不能只停留在原則與政策文件中，而必須體現在實際的使用體裡。當使用者看得懂、管得住、介入得了，AI 才有可能從被使用，進一步發展到被信任。

隨著 AI 開始參與更多重要決策，企業面臨的挑戰已不只是提升模型能力或滿足監管要求，更重要的是如何建立值得信任的使用體驗。對多數人而言，信任並非來自技術本身，而是來自實際互動過程中的感受。當使用者能理解 AI 如何運作、知道系統的限制、並在必要時保有介入權時，更容易建立信任。

人們關心的不只是 AI 能做什麼，更在意 AI 如何做出決策，以及當結果出現問題時，是否有人能夠負責。因此，透明度、可控性與人類監督，逐漸成為值得信任 AI 的核心條件。企業若希望使用者願意將更多任務交由 AI 處理，就必須讓使用者感受到自己仍然擁有最終決定權。

除了治理與控管機制之外，這些看似細微的設計元素，往往更直接影響使用者是否願意持續使用並信任 AI。從介面設計、文字表達到互動流程，每一次體驗都在累積或消耗信任。

因此，打造值得信任的 AI 不只是技術問題，也是一項設計課題。企業除了建立治理架構，更需要透過以人為本的設計（Human-Centered Design），讓 AI 的運作方式更容易理解、監督與驗證。唯有讓使用者看得懂、管得住、介入得了，AI 才能從被使用進一步發展到被信任。

AI 的發展正從提供建議逐步走向自主執行。過去人們主要透過 AI 取得資訊與建議，如今愈來愈多情境開始涉及 AI 直接完成任務、代表人們採取行動，以及參與更重要的決策流程。

安永調查顯示，即使人們對資料安全、責任歸屬與監管機制仍有疑慮，AI 的採用速度仍持續提升。這代表企業未來面臨的挑戰，已不只是提升 AI 能力，而是如何在自主化發展過程中建立使用者信任。

對企業領導者而言，關鍵問題已不再是 AI 是否會被接受，而是使用者願意在什麼情境下授權 AI，以及組織是否具備相應的治理、控制與監督機制。隨著 AI 開始承擔更高風險、更具影響力的任務，企業除了持續提升技術能力外，更需同步建立清晰的責任歸屬原則、資料治理架構、人機協作機制及風險管理措施，以確保 AI 的應用能夠在可控且可信的環境下持續推進。

隨著自主式 AI 持續發展，信任將成為決定採用速度的重要因素。那些能夠在創新、透明度與使用者體驗之間取得平衡的企業，將更有機會在下一階段 AI 發展中取得領先地位。未來成功的關鍵不僅來自技術本身的進步，更來自企業能否透過實際體驗建立信任、讓信任具體可見，並在自主化發展過程中提供足夠的治理與保障措施，讓使用者能夠安心地與 AI 協作，共同創造更高價值。

總結

AI 正從提供建議走向自主執行，從協助人們做決策，逐步發展到代替人們完成任務。從本次安永調查可以看出，即使人們對 AI 的安全性、透明度及責任歸屬仍有疑慮，AI 的採用速度仍持續提升。這顯示真正推動 AI 發展的，往往不是人們怎麼說，而是人們怎麼用。

對企業而言，AI 已不再是未來趨勢，而是正在發生的改變。真正的挑戰不是是否導入 AI，而是在擁抱 AI 的同時，如何建立透明、可監督及可追溯的治理機制，讓創新與風險管理能夠同步發展。當企業能夠在創新、治理與信任之間取得平衡，AI 將不只是提升效率的工具，更將成為推動企業下一階段成長的重要動能。

"AI 不會等待企業做好準備才開始改變世界，真正重要的是，企業是否已準備好與 AI 一起成長"