人工智能技術正深刻改變法律行業工作生態，從專業回答、觀點檢索到文案潤色，AI工具為法律從業者提供了高效助力。但技術紅利背後，虛假信息入侵司法程序的風險也悄然浮現。近日，北京市通州區人民法院審結的一起案件，便暴露出 AI生成的虛假案例對司法公正的潛在風險，亟需警惕。

基本案情

近日，通州法院審理了一起由股權代持引發的商事糾紛案件。訴訟中，原告代理人為了進一步佐證其觀點，庭後向法院提交了書面意見，其中援引了名為最高法院的某案例及上海一中院的（2022）滬01民終12345號案件。從代理意見的描述來看，兩案的事實細節、法律爭議與裁判邏輯都與審理中的案件高度契合，完美佐證了原告代理人的主張觀點，初看之下極具參考價值。

出於職業敏感性，承辦法官進行了檢索核實，結果卻發現，這兩個案號所對應的真實案件事實與代理人書面意見中描述的情況完全不同。其中，（2022）滬01民終12345號案件實際上是一起民間借貸糾紛，與書面意見中描述的事實完全不符，和本案所涉及的事實亦毫無關聯，沒有任何相似或者可以參照的情節。在承辦法官的質詢下，原告代理人最終承認，參考案例是由其提煉本案的事實情節，後反復向某AI大模型軟件提問，由該軟件生成的參考案例，代理人未進一步核實，而是直接復制粘貼後即提交法院。最終，承辦法官依據法律規定，結合案件事實對原告代理人的該部分代理意見未予采納。

承辦法官在判決書中明確對原告代理人的行為提出批評，要求原告代理人引以為戒，在向法院提交參考案例、法條時，應當進行檢查和核驗，確保內容的真實性和準確性，不得放任人工智能模型生成或者編造虛假信息擾亂司法秩序，一審判決後，雙方均未提出上訴，判決已經生效。

法官釋法

看似無所不能的AI，背後隱藏著巨大的誠信危機。結合該案審理經驗及司法實踐規律，可從以下幾方面識別AI生成的虛假案例特征：

▶ 案號編排存在規律化痕跡

真實司法案例的案號由年份、法院代字、案件性質代字、審級代字和案件編號組成，其中案件編號遵循受理順序自然生成，具有隨機性和連續性的統一特征。而 AI生成案例的案號往往呈現刻意規律化的特點：多采用“12345”“1234”等連續整數或“111”等具有明顯特征的數字，如本案中出現的 “12345 號” 便屬此類情況。所以遇到涉及此類案號的案件就要倍加小心。

▶ 案情描述過度貼合需求場景

AI大模型的生成邏輯基於概率統計與語境匹配，當使用者明確輸入案件細節後，其生成的案例往往刻意貼合需求，事實細節、論理結論可能與使用者需求高度重合，呈現人為定制化特征。如果向AI提出的需求比較細節，而使用AI檢索出的案例過於完美和契合，應當慎重處理。

▶ 難以通過檢索方式進行驗證

案例是對裁判文書的提煉和總結，AI模型雖能生成案例，但其生成的虛假案例並無真實裁判文書印證。且案件往往存在很多漏洞，AI有時會刻意模糊案件可識別要素，比如當事人的姓名等。故最穩妥的識別方法仍然是通過登錄中國裁判文書網對生成案例的真實性進行核實和驗證。

法官提示

近年來，ChatGPT、DeepSeek等軟件引發的人工智能浪潮正深刻地改變著人們的工作方式，其強大的語言生成能力在短時間內就能輸出看似專業、詳實的文本。但在沒有正確引導的情況下，AI極有可能生成誤導性甚至虛假的信息。民事訴訟法及司法解釋等對行為人利用AI生成不屬於證據性質的虛假參考案例如何處理尚沒有明確規定，但AI生成虛假信息對司法秩序帶來的危害值得重視，虛假案例幹擾了法院的正常審理流程，審判團隊不得不花費額外的時間和精力對律師提交的案例進行反復查找和甄別核實，一旦AI生成的虛假信息被參照適用，司法公信力將受到質疑。

法律從業人員應將AI作為輔助工具，而非替代自身專業判斷的神器。使用AI時，仍需保持審慎和理性，對AI生成的內容進行嚴格審查，確保信息來源可靠、內容真實準確。人民法院應當加大審查力度，運用技術手段和專業知識，對當事人及代理人提交的參考案例等資料進行嚴格甄別，確保司法過程中使用的信息真實可靠。