核心結論
依目前的判決方向，責任仍在使用者與提供者身上。杭州網際網路法院 2026 年 1 月的首例判決明確指出，雖然 AI 幻覺目前難以避免，但技術的侷限不應成為使用者規避責任的安全港，法律規範的是人的行為。德國法院也首度認定 Google AI 摘要的錯誤答案屬平台責任。
執行摘要
核心觀察：AI 幻覺已經從技術議題變成法律議題，而第一批判決的方向對使用者不利。杭州網際網路法院於 2026 年 1 月做出中國大陸首例 AI 幻覺侵權判決，標誌司法系統進入對生成式 AI 的行為責任管理階段 [1]。判決明確指出，雖然 AI 幻覺目前難以避免，但技術的侷限不應成為使用者規避責任的安全港，法律規範的是人的行為 [2]。
另一端，德國法院首度認定 Google AI 摘要產生的錯誤答案屬於平台責任 [3]。兩個方向合起來看，訊息很清楚：不管你是提供 AI 服務的一方還是使用 AI 的一方，都不能用「這是 AI 生成的」來卸責。
對中小企業的實際影響在於對外內容。用 AI 寫的產品說明、報價依據、法規解釋，如果出錯，責任是公司的。
判決在講什麼
杭州的案子核心是：AI 生成了不實資訊造成損害，責任歸誰。法院的立場是法律規範人的行為，技術做不到不代表使用的人可以不負責 [1][2]。
另一個案子裡，AI 甚至主動承諾「資訊有誤賠十萬元」。判決指出 AI 生成的賠償承諾通常不自動構成公司的正式意思表示 [2]，但這不代表公司可以完全撇清，只是責任的認定要走另一條路徑。
中小企業該建立的最小防線
第一，凡是含具體數字、法條、日期或引用來源的對外內容，一律人工查證。這幾類正是模型最容易編造的。
第二，留下紀錄。誰用什麼工具、在什麼時候產出這份內容、有沒有經過審核。從判決的方向看，能不能證明你已盡合理注意義務 [2]，比有沒有出錯更關鍵。
關鍵要點
首例判決已出：杭州網際網路法院 2026 年 1 月做出首例 AI 幻覺侵權判決
技術限制不是免責理由：法院明確表示 AI 幻覺難以避免，但不能成為使用者規避責任的安全港
平台端也被課責：德國法院首度認定 Google AI 摘要的錯誤答案屬平台責任
免責靠證據：服務提供者須就訓練資料、內容標示、準確性改善、申訴處理與日誌保存證明已盡注意義務
對外內容要留紀錄：用 AI 產出的產品說明、報價依據、法規解釋若出錯，責任在公司
參考來源
杭州宣判「AI 幻覺」案：AI 不是內容失實的免責金牌
中新網 · 2026-02-03
https://www.chinanews.com.cn/sh/2026/02-03/10565023.shtml中國大陸首例「AI 幻覺」侵權判決帶來的省思
Lexology · 2026
https://www.lexology.com/library/detail.aspx?g=3d105e2b-5af1-4964-b73d-5e11fbcfab1b常見問題
Q：AI 生成的錯誤內容，法律責任在誰身上？
A：依目前的判決方向，責任仍在使用者與提供者身上。杭州網際網路法院 2026 年 1 月的首例判決明確指出，雖然 AI 幻覺目前難以避免，但技術的侷限不應成為使用者規避責任的安全港，法律規範的是人的行為。德國法院也首度認定 Google AI 摘要的錯誤答案屬平台責任。
Q：公司用 AI 寫對外文案要注意什麼？
A：凡是含具體數字、法條、日期或引用來源的內容，一律人工查證，因為這幾類最容易被模型編造。同時要留下紀錄：誰用什麼工具、什麼時候產出、有沒有經過審核。從判決方向看，能否證明已盡合理注意義務，比有沒有出錯更關鍵。
Q：「這是 AI 生成的」可以當免責理由嗎？
A：不行。法院已明確表示 AI 不是內容失實的免責金牌。服務提供者、呼叫者與平台都需要就訓練資料、內容標示、準確性改善、申訴處理、日誌保存與高風險關鍵字的人工審核，用證據證明自己已盡合理注意義務。
由穹境科技 AI 情報系統生成 · 2026-07-24 · 資料來源見上方參考列表