AI造假判決書是這篇文章討論的核心
目錄
快速精華：你需要先知道的 5 件事
- 💡核心結論：加州律師公會關注的重點不是「你有沒有用 AI」，而是你有沒有把輸出當成可被核實的草稿，並完成必要的人類審閱與可追蹤。
- 📊關鍵數據：2026 年全球生成式 AI 市場規模已在數千億美元等級，並向「兆美元級」能力擴張；而法律文件自動化正是最容易被快速導入的場景之一。風險也會跟著放大：一旦審查流程沒跟上，錯誤會以極快速度進入正式提交。
- 🛠️行動指南：建立「引用審查清單 + 引文回溯機制 + 審核責任人」；讓每份文件的引用都有可驗證鏈結/檔案證據，而不是靠模型「看起來很像」。
- ⚠️風險預警：AI 生成的「看似合理但不存在」判決書屬於可導致紀律問題的高風險錯誤；尤其當你未經人工檢閱就直接提交，會被認定違反專業義務。
引言：我觀察到的合規警訊
我不會說這件事是什麼「第一次發生」，但我會說：今年（以及往後）最容易被忽略的，不是模型本身，而是你把模型輸出丟進流程裡的那一刻。以加州律師公會的調查事件來看，三名加州律師被指控使用 LLM（例如 ChatGPT 或更進階模型）協助撰寫法庭文件，並引用到「不存在的判決書」。這不是那種「手滑少打一個字」的小事故，這種偽造式引用會直接扭曲法律論證的可信度，連法官/對造都能一眼抓到。
更關鍵的是，律師們主張他們使用 AI 主要用來自動生成法律草擬，但未經人工檢閱就直接提交——這個差距，恰好落在監管機構反覆強調的倫理底線：人機協同、可追蹤性、以及必要的核實與審查。
為什麼加州律師會栽在「不存在判決書」？AI 不是問題，流程才是
新聞核心很直白：三名加州律師面臨加州律師公會（State Bar of California）調查，原因是他們使用人工智慧（LLM）撰寫法庭文件，並引用不存在的判決書。律師們認為他們用的是 AI 自動生成的草擬內容，未必是「刻意造假」。但公會的框架不是在追究動機，而是評估你是否履行專業義務：你對輸出做了哪些確認？你有沒有把 AI 當作必須被核實的工具，而不是「直接可用的終稿」？
要理解這件事的威力，得從 LLM 的行為特性看：模型會產生高度相似語氣、排版與引用格式的文本。它不會像查原始判決那樣有「證據感」，所以當提示詞或資料不足時，就可能把不存在或不相關的案件「組裝」進回答裡。於是你得到的不是單純錯誤，而是「看起來正確」的錯誤；而法律文件最怕的，正是這種錯得很漂亮的內容。
一句話：模型生成的是「文本」，法律要求的是「可驗證事實」。你把文本當成事實，就會出事；你把事實交回給審查，就會活下來。
2026 法律文件自動化的三條紅線：人機協同、可追蹤性、可驗證
這次事件之所以會在 2026 特別刺眼，是因為法律科技正在加速普及：律所想省時間、想擴大產能、想把草擬流程標準化。但合規與風險不會跟著省下來。加州律師公會強調的方向可被濃縮成三條紅線：人機協同（你得介入）、可追蹤性（你得交代怎麼來的）、可驗證（你得確認是真的）。
Pro Tip｜你要做的是「可審計」而不是「看起來很快」
很多團隊把 AI 當作生產線上的「印字機」。但法務世界更像是「法庭證據工程」。你需要能在事後說清楚：每一段引用、每一個判決號碼、每一條論點，都能被追溯到來源（資料庫條目、原文 PDF、或可驗證的引用紀錄）。換句話說：不是越自動越好，而是越能被檢查越好。
把三條紅線套進實務，會長這樣：
- 人機協同：AI 產出應被當作草稿，且在提交前完成人工核對。尤其是引文、判決年份、法庭層級這類「可驗證要素」。
- 可追蹤性：保存提示詞版本、模型版本、輸出快照、以及核對紀錄（誰審核、何時審核、核對方法是什麼）。
- 可驗證：引用必須能回到原始判決或可查證的資料來源。若你的系統沒有辦法做到，至少要有手動查證流程，不能讓「模型猜測」直接落地。
另外，建議你把合規指南也當作流程設計的規格書。加州律師公會曾發布「Practical Guidance for the Use of Generative Artificial Intelligence in the Practice of Law」，這份文件可以作為你建立內控機制的參考方向（提醒：它是指引性原則，不是讓你照抄即可通過審查）。
Pro Tip：把「審查」工程化，讓每次引用都能回溯來源
你可能已經聽過「要人工檢查」。但問題是：人工檢查如果沒有規格，就會變成「靠感覺刷一遍」。這次事件提醒的是——當引用被證明不存在時，感覺是站不住的。要把審查工程化，你可以直接把流程拆成可落地的清單。
專家見解｜審查清單不是文件，是控制欄位
我的做法是：把「可驗證要素」變成系統欄位，例如每個引用都要有：法院/年份/案號/引用類型（判決/命令/摘要）以及可追溯來源連結或檔案 hash。AI 產出可以填草稿欄位，但最終提交前要完成欄位滿足率（例如引用欄位 100% 必須可追溯）。
下面這張表你可以當作內部作業的起手式：
這樣做的好處是：你不只是「做了人工審查」，而是能把審查變成可驗證結果。當未來有人問你「這個引用怎麼來的」，你能拿出證據，而不是口頭說「我有看」。
風險預警與長遠影響：到 2027/未來，誰會被合規卡住？
談長遠影響，不是恐嚇。是把「監管動作」當作市場信號：當律師公會開始針對 AI 引用造假採取紀律程序，就代表未來會有更多形式的審查（例如要求更強的版本/紀錄保存、對高風險類型輸出更嚴格的核實）。
更現實一點：法律文件自動化的成本結構會被重新定價。原本你可能只算模型成本、工時成本。但接下來會多出「合規成本」：引用核實工具、資料庫訂閱、審查工作流、以及內控系統的建置與維護。這些成本不會消失，甚至會在大規模採用後上升。
新聞事件也讓我注意到一個現象：當 AI 把草擬速度拉上去，錯誤的傳播速度也會一起上去。若缺少人機協同與可追蹤性，錯誤會在「多份相似模板」下被成倍放大，最後在紀律或訴訟階段集中爆雷。
從 2027 年與未來的產業鏈角度，可能被卡住的會是這幾類角色：
- 沒有內控的律所/團隊：如果審查只靠個人經驗，面對更嚴格審查時會很吃力。
- 提供 AI 文件草擬但缺少證據鏈的工具商：缺少引用可追溯機制，就很難支撐長期合規需求。
- 只強調效率、忽略責任分界的系統整合商：未把「誰負責」與「怎麼驗」設計進去，就會讓客戶背鍋。
最後再把話收回來：你可以用 AI，但你不能讓它「替你擔責」。當監管把「可追蹤、可核實」當成專業義務，任何缺口都會被放大。
