返回洞見列表
企業 AI 導入2026-08-184 個章節

別再算 Token,先算成功任務

把重試、覆核與返工算進 AI 成本

核心結論

把同一期間內的軟體或 API、資料整理、流程設定、人工覆核、重試返工及維護成本全部相加,再除以通過品質門檻的任務數。失敗、重做或未通過覆核的任務不能放進分母,但其成本仍要留在分子。

執行摘要

核心觀察:AI 成本不能只看授權費或每百萬 Token 單價。若輸出需要多次重試、人工覆核與返工,便宜模型可能產生更高的單件完成成本。OECD 2026 年調查中,44% 受訪中小企業回報 AI 只有極少或沒有影響,39% 把軟體或技術維護成本列為數位採用障礙。行動建議:為一條高頻流程建立「每件成功任務成本」,把工具、人工、錯誤與維護成本納入分子,只把達到品質門檻的任務放進分母,連續量測一個正常業務週期後再決定模型與方案。

最便宜的模型,可能交付最貴的結果

企業常拿每月授權費或 Token 單價比較 AI,卻漏掉真正消耗預算的環節:員工整理資料、修改提示、等待回應、檢查輸出、重新執行與修正錯誤。若一個便宜模型需要三次嘗試與十分鐘人工覆核,另一個較貴模型一次就達標,前者未必更省。

OpenAI 建議用每件成功任務成本取代單看 Token 價格,把完成工作的全部成本除以達到品質門檻的任務數。[1] 這個方法不是特定模型的效能保證,而是一個企業比較方案的會計框架:同一批任務、同一品質要求、同一期間,才能公平比較。

先定義什麼叫做成功

每條流程先建立驗收門檻。例如報價摘要必須欄位完整、數字可追溯且格式可直接交付;客服草稿必須符合政策、引用正確資料並由人員在限定時間內完成確認。只要輸出需要重做、遺漏必要欄位或未通過覆核,就不能計入成功任務。

OpenAI Academy 建議保存基準、單位、期間與量測方法,同時記錄工時、等待、交接、返工、產量與品質。[2] 若節省時間是訪談估算,就標為估算;若來自時間戳記,就標為量測。小而可核對的證據,比把一週試跑直接放大成年節省更可信。

一張表算出完整單件成本

分子包含六類成本:軟體或 API、資料整理、流程設定、人工覆核、錯誤返工,以及維護與監控。分母只放通過驗收的任務數。再額外記錄每件處理時間、人工介入率與失敗原因,就能看出成本是來自模型、資料、流程設計,還是品質門檻不清。

Google Cloud 的成本最佳化指引也要求同時追蹤訓練、推論、儲存與網路成本,以及每次推論、每個資料點或每項任務的單位成本,並連回營收、節省、效率與準確性等商業指標。[4] 對中小企業而言,不需要先建大型平台,一份每週更新的試算表就能建立第一版基準。

先證明價值,再做技術降本

當成功率與品質穩定後,才調整模型、推理強度、提示長度、快取與批次處理。即時客服、夜間報表與文件批次分類的延遲要求不同,應分開選擇服務層級。NIST 草案也指出,評估中的成本與效能設定要接近真實使用,否則測試結果缺乏外部效度。[5]

OECD 2026 年調查中,54% 受訪中小企業回報 AI 至少有中度價值,但 44% 回報極少或沒有影響,39% 把維護成本列為數位採用障礙。[3] 台灣中企署則要求導入案提出至少兩項成效指標並保留使用紀錄。[6] 企業真正該擴大的,是成本與成果都能被持續證明的流程。

關鍵要點

1

改算成功任務:完整成本除以達標任務數,才是可比較的 AI 單位經濟。

2

人工不能漏算:提示調整、資料整理、覆核、重試與返工都是交付成本。

3

品質先定門檻:沒有通過正確性、完整性與格式要求的輸出,不得放進成功分母。

4

分開即時與批次:客服回覆重視延遲,夜間報表重視成本,不能用同一種服務層級。

5

連續量一個週期:保留基準、期間、樣本與方法,再決定擴大、換模型或停止。

參考來源

[1]

A scorecard for the AI age

OpenAI · 2026-07-17

https://openai.com/index/a-scorecard-for-the-ai-age/
[4]

AI and ML perspective: Cost optimization

Google Cloud · 2025-05-28

https://docs.cloud.google.com/architecture/framework/perspectives/ai-ml/cost-optimization
[5]

NIST AI 800-2: Developing Evaluation Protocols for General-Purpose AI Systems

National Institute of Standards and Technology · 2026-01

https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.800-2.ipd.pdf
[6]

115年度提升中小企業智慧化經營效能計畫申請須知

經濟部中小及新創企業署 · 2026-02-04

https://www.sme.gov.tw/files/14180/DD0D7FD2-C397-4CAC-AAB5-903F4CD6093C

常見問題

Q:中小企業要怎麼計算 AI 每件成功任務成本?

A:把同一期間內的軟體或 API、資料整理、流程設定、人工覆核、重試返工及維護成本全部相加,再除以通過品質門檻的任務數。失敗、重做或未通過覆核的任務不能放進分母,但其成本仍要留在分子。

Q:為什麼不能只比較不同 AI 模型的 Token 單價?

A:因為 Token 單價沒有包含成功率與人工成本。便宜模型若需要更多提示、重試、等待或覆核,完成同一件工作可能反而更貴。比較時要固定任務樣本、品質門檻與期間,再看每件達標任務的完整成本。

Q:AI 成本表至少要記錄哪些數字?

A:至少記錄任務量、成功任務數、模型或授權費、人工處理分鐘、人工介入率、重試次數、返工件數與每件完成時間。另保留資料期間、樣本範圍與量測方法,才能判斷成本變化來自模型、流程或工作量。

Q:什麼情況適合換成更便宜的 AI 模型?

A:當目前流程已具備固定輸入、明確品質門檻與穩定成功率,才用同一批代表性任務測試較便宜模型。若每件成功任務成本下降,而且錯誤、人工覆核與處理時間沒有惡化,就可以在受控範圍逐步切換。

Q:AI 試點要量多久才能決定是否擴大?

A:至少跑滿一個正常業務週期,確保包含尖峰、例外與重複使用。台灣中企署 2026 年導入計畫要求期末提供至少四個月使用紀錄,企業內部小型試點可先按自身週期設定檢查點,但不得用單次展示代替營運證據。

由穹境科技 AI 情報系統生成 · 2026-08-18 · 資料來源見上方參考列表