□ 本報記者 何睿

在湖北省大悟縣人民法院近日審理的一起房屋租賃合同糾紛案中，原告董某作為證據(jù)提交的水電表照片，赫然帶有“AI生成”的水??；在法官的質(zhì)詢下，董某最終承認自己利用AI技術(shù)偽造證據(jù)，并受到了訓誡。

這起看似荒唐的AI造假并非個例，多地法院亦有類似遭遇。隨著生成式人工智能技術(shù)融入法律行業(yè)，其帶來的“AI幻覺”陷阱，即生成看似真實、合理，實則虛假、錯誤的內(nèi)容，也在侵入莊嚴的法庭。面對這一沖擊，除了依靠法官的慧眼，各地法院也在探索構(gòu)建長效防范治理機制。

干擾司法秩序

“AI幻覺”在法律領(lǐng)域已造成多層面沖擊，最常見的是生成虛假或錯誤的案例和法條。

在北京市通州區(qū)人民法院審理的一起看似尋常的商事糾紛中，承辦法官鄭吉喆發(fā)現(xiàn)，原告代理律師提交的兩個案例的案號所對應(yīng)的真實案件情況，與其援引內(nèi)容風馬牛不相及。在法官的追問下，原告代理律師終于承認，這些所謂的案例竟是AI工具根據(jù)其檢索生成的。

北京市第二中級人民法院推動落實全員、全面、全程“三全”釋法說理機制，對當事人提交的證據(jù)材料、法律意見等進行嚴格審查。在該院2025年9月審理的一起繼承糾紛案件中，當事人發(fā)來了自己通過AI搜索到的裁判依據(jù)。承辦法官屠育對照后發(fā)現(xiàn)，竟沒有一條是準確的現(xiàn)行法律規(guī)定。

在上海市第二中級人民法院受理的各類二審案件中，已出現(xiàn)當事人直接使用AI工具擬寫訴狀、援引虛構(gòu)法條，甚至將AI生成的答復(fù)作為證據(jù)提交的情形。“例如，我庭2025年11月審結(jié)的董某與上海市某公司勞動合同糾紛一案中，當事人上訴狀引用相關(guān)法律條文，經(jīng)核查均不存在或與條文原意不符。”上海二中院民事審判庭法官沈永妍介紹道。

更嚴峻的是，“AI幻覺”還可能被用于惡意取證、偽造證據(jù)、虛構(gòu)事實。

在上海市青浦區(qū)人民法院審理的一起侵害商標權(quán)糾紛中，原告四川全某餐飲文化管理有限公司（以下簡稱全某公司）系“全某冒”注冊商標專用權(quán)人，在某搜索引擎以“全某冒菜加盟要多少錢”為關(guān)鍵詞搜索所得結(jié)果首條即為完整包含前述關(guān)鍵詞內(nèi)容的上海世某食品股份有限公司（以下簡稱世某公司）自有品牌加盟推廣網(wǎng)頁鏈接。

全某公司遂以世某公司購買搜索引擎廣告服務(wù)，并有意選用“全某冒”商標相近的搜索關(guān)鍵詞進行網(wǎng)絡(luò)推廣，侵害其注冊商標專用權(quán)同時構(gòu)成不正當競爭為由訴至人民法院，要求世某公司停止侵權(quán)并賠償損失。世某公司辯稱，其雖購買了某搜索引擎網(wǎng)絡(luò)招商廣告推廣服務(wù)，但未曾主動添加含“全某冒”字樣的關(guān)鍵詞，否認實施被訴侵權(quán)行為。

北京某網(wǎng)訊科技有限公司稱世某公司購買了其經(jīng)營的某搜索引擎推廣服務(wù)，但經(jīng)后臺數(shù)據(jù)核查，世某公司未主動添加“全某冒菜加盟要多少錢”關(guān)鍵詞。而全某公司取證前存在多達50余次頻繁重復(fù)搜索含“全某冒”相關(guān)關(guān)鍵詞卻不點擊搜索結(jié)果的行為，其取證過程存在異常。

青浦法院西虹橋（進口博覽會）人民法庭法官趙暉暉表示，這是原告利用AI的自主學習能力，通過在搜索引擎中反復(fù)輸入自身商標名稱、卻不實際訪問顯示正常的網(wǎng)頁鏈接，進行一系列非正常的搜索操作，直至錯誤鏈接顯示即進行取證，人為制造了“侵權(quán)”假象。根據(jù)查明情況，原告竟以此手法取得400余份“證據(jù)”，向全國各地法院提起或準備提起商標侵權(quán)訴訟。

避免過度依賴

AI為何會“胡言亂語”？北京二中院申訴審查庭庭長趙銀豪指出，“AI幻覺”是AI思維模式的天然副產(chǎn)品，大語言模型的本質(zhì)是概率預(yù)測而非邏輯推理；當遇到訓練數(shù)據(jù)不足、信息模糊或用戶指令引導性過強時，它為追求文本連貫與完成任務(wù)，便會傾向于自主創(chuàng)造內(nèi)容。

“法律領(lǐng)域的特殊性加劇了這一風險。”在趙銀豪看來，法律知識體系龐大、更新迅速，且存在大量未公開文書或內(nèi)部規(guī)范，客觀上容易形成“信息真空地帶”；法律語言高度專業(yè)化且依賴嚴謹解釋，AI易陷入“死摳字眼”或“忽視但書”等機械理解的境地；部分當事人或法律工作者對AI過度依賴與盲目信任，沒有盡到對信息真實性的核驗義務(wù)。

“有的當事人拿著由AI生成的對某一法律問題的意見，作為抗辯理由。這種對不準確信息來源的依賴，不僅削弱了法律規(guī)范的權(quán)威性，也對司法專業(yè)解答產(chǎn)生干擾，損害司法公信力。”在上海二中院民事審判庭審判團隊負責人陳櫻看來，AI所生成意見的內(nèi)容、方向、針對性、專業(yè)性、準確性等，與提問者提供給AI的案情信息和提問方式有很大關(guān)聯(lián)；當事人往往根據(jù)自己的理解去提問，提供的信息不全面甚至有偏向性，因此AI給出的答案往往偏向于提問方；使用AI工具，應(yīng)對其生成內(nèi)容進行必要的核查求證，切忌盲目照搬。

注重內(nèi)容審核

工具的價值，取決于人類的智慧與責任。面對“AI幻覺”的沖擊，司法機關(guān)正在積極行動。

在審查經(jīng)驗層面，通州法院成立人工智能司法應(yīng)用案例與理論興趣小組，總結(jié)出AI虛假案例的特征以便識別：如案號編排存在規(guī)律化痕跡、案情描述過度貼合需求場景、難以通過檢索方式進行驗證等。

“在行為規(guī)范層面，司法機關(guān)對于提交材料中含有疑似AI生成內(nèi)容的當事人，應(yīng)進行必要釋明與風險告知，要求當事人在提交材料中標注人工智能輔助生成情況。”陳櫻表示。

趙銀豪認為，對于當事人或法律工作者提交含有AI虛構(gòu)內(nèi)容的訴訟材料的行為，應(yīng)視情節(jié)采取訓誡、罰款等懲處措施，誠實信用是訴訟參與人的基本義務(wù)，AI不能成為免責借口。

在技術(shù)優(yōu)化層面，陳櫻建議引導人工智能服務(wù)平臺加強內(nèi)容審核，對側(cè)重于法律用途的AI模型，平臺應(yīng)實施更嚴格的內(nèi)容真實性審核與用戶提示義務(wù)，例如采用檢索增強生成技術(shù)，將AI的生成過程與權(quán)威、實時的法律數(shù)據(jù)庫更緊密掛鉤，是減少產(chǎn)生“AI幻覺”的有效路徑；在司法機關(guān)內(nèi)部，可依托數(shù)字法院建設(shè)，識別虛構(gòu)法條、案例及典型AI生成痕跡，并向承辦法官提示風險，提升審查質(zhì)效。

“我堅信，技術(shù)進步的車輪無法阻擋，人工智能會更進一步融入法律工作。但是技術(shù)的局限性不可忽視，工具無法取代人的擔當。法庭之上，最終且唯一的審判者，只能是且必須是經(jīng)得起追問的人。”趙銀豪表示。

漫畫/高岳

免責聲明：凡本網(wǎng)注明“來源：XXX（非駐馬店廣視網(wǎng)、駐馬店融媒、駐馬店網(wǎng)絡(luò)問政、掌上駐馬店、駐馬店頭條、駐馬店廣播電視臺）”的作品，均轉(zhuǎn)載自其它媒體，轉(zhuǎn)載目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點和對其真實性負責，作品版權(quán)歸原作者所有，如有侵犯您的原創(chuàng)版權(quán)請告知，我們將盡快刪除相關(guān)內(nèi)容。凡是本網(wǎng)原創(chuàng)的作品，拒絕任何不保留版權(quán)的轉(zhuǎn)載，如需轉(zhuǎn)載請標注來源并添加本文鏈接：http://www.maboss.net/showinfo-124-374868-0.html，否則承擔相應(yīng)法律后果。