Finworks 的 Marc Hoogstad 談公部門 AI 缺少的基礎要素，特別聚焦資料信任與流程可視性

人工智慧（AI）正成為公部門數位轉型的核心支柱。英國政府正在探索 AI 如何改善服務提供、強化決策、降低行政負擔，並協助組織在資源有限的情況下做得更多。

雖然 AI 技術持續快速進展，但一個較不顯眼的挑戰正在浮現：許多組織試圖在破碎的資料環境與彼此斷裂的作業流程之上部署 AI。結果，就是信任落差愈來愈大。

公部門組織在能夠信任 AI 生成的洞察、建議或決策之前，必須先信任支撐這些結果的資料與流程。這也是資料脈絡（data lineage）與流程可視性，正成為成功採用 AI 的關鍵基礎的原因。

政府對可信任 AI 的需求日益增加

不同於許多私部門環境，公部門組織承受高度檢視。決策往往會對公民、企業與社群產生重大影響，公部門機關必須能夠說明決策如何形成，並為其產出的結果提出正當理由。

隨著 AI 愈來愈深地嵌入這些流程，透明度與問責也變得更加重要。

公共信任不能只建立在黑箱系統之上。公民、監管機關、稽核人員與政策制定者，愈來愈期待組織能說明決策是如何得出的、使用了哪些資訊，以及整個流程中是否套用了適當的控管措施。

如果缺乏可視性，信任就很難建立。

為什麼資料信任比以往更重要

AI 系統的可靠性，取決於它所使用的資料是否可靠。多數公部門組織運作在高度複雜、歷經數十年演變的技術環境之中。資訊經常分散在多個系統、部門、供應商與資料庫之間。資料會在眾多作業流程中被擷取、轉換、分享與重複使用。

這正是資料脈絡變得不可或缺的地方。資料脈絡讓組織能看見資料如何在內部流動，使團隊了解資訊從何而來、如何被轉換，以及如何貢獻於業務決策。

對正在採用 AI 的組織而言，資料脈絡帶來幾項重要好處：

  • 提升對資料品質的信心。
  • 強化法規遵循。
  • 更快找出資料問題。
  • 提高可稽核性與問責能力。
  • 增加對 AI 生成輸出的信任。

能夠從來源一路追溯資訊到結果，正成為政府負責任採用 AI 的前提。

隱藏的挑戰：流程可視性

資料治理受到大量關注，但還有另一個同樣重要、卻經常被忽略的因素。決策並不是單靠資料產生；決策是透過流程產生的。

每一項政府服務都仰賴一連串工作流程，牽涉人員、系統、核准、政策與作業控管。資料可以為決策提供依據，但決定決策如何形成的是流程。

以典型的公部門案件管理流程為例。資訊可能會經過多個團隊、觸發自動化檢查、需要人工審查、產生補充證據要求，並在做出最終決定前，涉及各方利害關係人的核准。

即使資料品質很高，組織仍經常難以完整掌握這些流程如何跨部門邊界運作。

因此，幾個關鍵問題會變得難以回答：

  • 延誤發生在哪裡？
  • 哪些決策需要人為介入？
  • 套用了哪些控管措施？
  • 哪些系統影響了結果？
  • 在更大的流程脈絡中，應該如何解讀 AI 建議？

如果缺乏流程可視性，組織就有可能把 AI 導入自己尚未完全理解的工作流程。

為什麼 AI 同時需要資料脈絡與流程編排

成功採用 AI，取決於是否理解整個決策生態系：

資料脈絡回答的是關於資訊的問題。

流程編排回答的是關於決策的問題。

資料脈絡協助組織了解

流程編排協助組織了解

  • 組織內部的工作流程。
  • 涉及哪些系統與利害關係人。
  • 做出了哪些決策。
  • 套用了哪些控管措施。

公部門組織現在需要的不只是資料脈絡；它們需要的是決策脈絡。決策脈絡將可視性從資料移動延伸到作業旅程，也就是資訊如何被轉化為結果。它讓人能全面理解決策如何形成、驗證、核准並付諸行動。

建立面向未來的基礎

AI 無疑會在未來政府中扮演愈來愈重要的角色。從改善公民服務到提升作業效率，機會相當可觀。

然而，公部門 AI 的成功，不會只由演算法有多精密或投資規模有多大來決定；它將由信任來決定。

對資料品質的信任。對流程透明度的信任。對圍繞決策的治理的信任。

隨著公部門組織持續推進 AI 旅程，過於簡化的看法，是只問 AI 是否能創造價值。

真正成功的組織與部門，會先奠定足以信任其產出結果的基礎。這些基礎，始於資料信任與流程可視性。