返回洞見列表
AI 治理2026-08-234 個章節

AI 停了,公司還能工作嗎

先設人工接手,再談自動化

核心結論

優先處理會影響收入、客戶承諾、付款、個資、設備或法定時限的流程,例如訂單、報價、客服分流、財務文件與現場排程。純內部草稿或低頻研究可採較簡單備援,不需要把所有流程都做成高可用。

執行摘要

核心觀察:台灣正加速中小企業 AI 導入,經濟部產業發展署截至 2026 年 3 月底已輔導 2,058 家企業,其中中小企業占 91%。當 AI 逐步成為核心流程,新的營運問題是服務中斷、模型失效或權限被撤銷時,工作是否仍能繼續。行動建議:每條關鍵流程都要設定可接受中斷時間、人工接手人、必要上下文、穩定版本、降級方式與復原門檻,並在上線前及重大變更後實際演練。

AI 內化後,中斷就是營運問題

經濟部產業發展署指出,截至 2026 年 3 月底,產業競爭力輔導團已協助 2,058 家企業導入 AI,其中中小企業占 91%,並把目標定為讓 AI 從一次性導入走向企業核心能力。[1] 當報價、客服、排程或文件審查開始依賴 AI,供應商服務中斷、帳號被停用、模型改版或資料連線失效,都會直接影響日常營運。

因此導入問題不能只問正常時省多少工時,也要問異常時誰能接手、多久恢復,以及待辦會不會遺失。先把流程依業務影響分級。若停一天只延後內部整理,可以接受較慢復原;若會漏掉客戶訂單、付款或法定時限,就需要明確的人工備援與停止門檻。

降級要有順序,也要說清楚差異

AWS 建議代理系統準備緊急停止、回復穩定版本、安全模式、離線替代流程與復原目標。[2] 中小企業可把降級分為四層。第一層切回已驗證版本,第二層使用較簡單模型或快取資料,第三層轉由人員處理,第四層在無法保證安全與正確時停止服務。

Google Cloud 也建議依錯誤率與延遲門檻啟動較簡單模型、快取資料或自動回復版本。[6] 降級不能偷偷發生。系統應告知使用者目前能力受限、哪些結果需要額外確認、何時再更新。若備援版本品質較低,涉及金額、客戶承諾或外部發布的結果應提高人工覆核。

人工接手需要完整工作包

把任務丟進人工信箱,不代表完成接手。接手工作包至少要包含原始需求、客戶或案件編號、已完成步驟、使用資料、目前產物、待確認事項、錯誤原因與下一個可執行動作。Microsoft 的交接架構保留完整對話歷史,支援敏感工具的人工核准,也能以檢查點讓流程中斷後續跑。[5]

人員能力也要維持。AWS 特別提醒,代理長期承接類似人的工作後,操作人員可能逐漸失去在故障情境下處理原工作量的能力。[2] 因此關鍵流程不能只留下文件,還要安排輪值、抽樣人工處理與實際演練。接手時間、每小時處理量與積壓清除時間都應被量測。

先限制影響,再追求完全防錯

NIST 介紹的研究指出,固定防護規則無法對持續變化的對抗提示保持普遍穩健,因此建議持續測試、更新防護,並以限制影響及快速復原建立韌性。[3] 這不代表安全無法改善,而是企業不應把所有資源都用在追求永遠不出錯,卻沒有預留停止與復原能力。

Anthropic 的遙測顯示,使用者核准約 93% 的權限提示,過多確認會形成疲勞。[4] 高風險流程仍需要人判斷,但不應用大量核准視窗代替設計。更可靠的做法是限制代理可讀資料、可用工具、單次金額與網路出口,再為少數真正重要的決策保留人工核准。

關鍵要點

1

先定義不能停的工作:不是每條 AI 流程都要高可用,先找出會影響收入、客戶、付款與法定責任的流程。

2

設定可接受中斷時間:由業務決定多久必須恢復、期間可容許多少待辦與資料落差,不只由資訊人員決定。

3

準備四級降級路徑:穩定版本、簡化功能、人工處理、安全停止,並清楚標示每級品質差異。

4

交接要包含上下文:保留原始需求、已完成步驟、資料來源、待確認事項、錯誤與下一個可執行動作。

5

演練人能否接回:上線前與重大變更後實際關閉 AI,量測通知、接手、積壓清理與完整復原時間。

參考來源

[1]

掌握 AI 發展黃金期,加速中小企業應用落地

經濟部產業發展署 · 2026-04-13

https://www.ida.gov.tw/ctlr?PRO=news.NewsView&id=43178
[2]

Incident response and business continuity for agentic AI systems

AWS Prescriptive Guidance · 2026

https://docs.aws.amazon.com/prescriptive-guidance/latest/agentic-ai-security/best-practices-incident-response.html
[3]

NIST Mathematical Proof Supports a Continuous Monitor and Update Security Model

National Institute of Standards and Technology · 2026-06-09

https://www.nist.gov/news-events/news/2026/06/nist-mathematical-proof-supports-transition-continuous-monitor-and-update
[4]

How we contain Claude across products

Anthropic · 2026-05-25

https://www.anthropic.com/engineering/how-we-contain-claude
[5]

Microsoft Agent Framework Workflows Orchestrations: Handoff

Microsoft Learn · 2026-07-29

https://learn.microsoft.com/en-us/agent-framework/workflows/orchestrations/handoff
[6]

AI and ML perspective: Reliability

Google Cloud Architecture Center · 2025-08-07

https://docs.cloud.google.com/architecture/framework/perspectives/ai-ml/reliability

常見問題

Q:中小企業哪些 AI 流程最需要營運持續計畫?

A:優先處理會影響收入、客戶承諾、付款、個資、設備或法定時限的流程,例如訂單、報價、客服分流、財務文件與現場排程。純內部草稿或低頻研究可採較簡單備援,不需要把所有流程都做成高可用。

Q:AI 服務中斷時,企業應該先做什麼?

A:先阻止待辦繼續流入失效流程,保存當前狀態並通知指定負責人。接著依預設順序切回穩定版本、簡化功能或人工處理。若結果可能錯誤或造成不可逆影響,就安全停止,不要無限重試或直接更換未驗證模型。

Q:人工接手 AI 工作時,至少需要哪些資料?

A:至少要有案件編號、原始需求、已完成步驟、資料來源、目前輸出、待確認事項、錯誤原因、時限與下一個動作。接手人也要知道自己能批准什麼、要向誰升級,以及處理結果要寫回哪個正式系統。

Q:準備第二家 AI 供應商,就算有完整備援嗎?

A:不算。第二家供應商可能同樣缺少必要資料、工具權限與流程背景,也可能輸出品質不同。備援必須先測試相同任務、標示品質差異、確認資料合規,並保留人工流程。技術替代與業務接手要同時成立。

Q:AI 營運持續演練多久做一次?

A:沒有適用所有企業的固定週期。關鍵流程在正式上線前至少演練一次,模型、工具、權限或資料來源重大變更後重新演練。正式運作期間依業務風險安排,並用通知、接手、積壓清理與完整復原時間調整頻率。

由穹境科技 AI 情報系統生成 · 2026-08-23 · 資料來源見上方參考列表