不靠 AI 抓 AI 的錯，CiteProof 專門揪出法律文件裡的虛構判例
一款名為 CiteProof 的新工具近日登場，鎖定近年愈來愈常見的法律文件 AI 錯誤問題，主打在訴狀與法庭文件送交前，先揪出虛構判例、錯引法條與誤植法院意見，避免律師因 AI 生成內容出包而面臨制裁、罰款，甚至在法官面前難堪。
這項服務的出現，反映法律界對生成式 AI 的矛盾依賴。雖然不少律師與助理已經把 AI 用在研究與草擬文件上，但這類工具也經常「幻覺」出不存在的案例或引文，導致文件出現嚴重錯誤。報導指出，類似問題早已不是個案，甚至曾有法院因為裁定書內出現虛構引用而撤銷該裁定，顯示法律工作對精準度的要求，與 AI 的不穩定輸出之間存在明顯衝突。
CiteProof 強調自己不靠 AI 來抓 AI 的錯誤，而是以直接、可驗證的方式比對公開法院紀錄。公司表示，系統不使用大型語言模型（LLM）或其他機率式模型，所有查核都在美國境內完成，且不會把資料傳送到 LLM。對外傳輸的內容僅限於從引用中擷取出的字串，供 CourtListener 等資料來源比對真偽。CiteProof 也坦言，這個小型平台在開發過程中有部分採用所謂的 vibe-coding，但強調查核本身完全不依賴 AI。
在功能設計上，免費使用者可進行單筆查核，付費方案則提供更深入的驗證報告、引文檢查與批次掃描等服務。價格方面，單份文件查核為 49 美元；五份套裝為 199 美元；若是律師事務所需要大量使用，月費方案最高可達 499 美元，涵蓋 200 份文件審查。CiteProof 表示，這項工具並不是鼓勵律師盲目使用 AI，而是做為一道客觀、非 AI 的防線，確保生成式工具產出的錯誤引用不會直接進入法院卷宗。
（首圖來源：shutterstock）