每經(jīng)編輯｜杜宇    

當你遇到問題向AI求助時，是否有過這樣的經(jīng)歷：它迅速給出看似專業(yè)而合理的解答，可其中的事實、數(shù)據(jù)、結論卻可能經(jīng)不起推敲，要么信息錯位，要么無中生有。

當AI一本正經(jīng)地“胡說八道”，這是“AI幻覺”的典型表現(xiàn)。

一位高考生的哥哥梁某在查詢高校信息時，就遭遇了這種“AI幻覺”，AI平臺在生成錯誤信息后，還底氣十足地表示內容有誤將賠償10萬元。

一氣之下，梁某將AI平臺的研發(fā)公司告上法庭。

據(jù)浙江日報潮新聞，針對國內首例因“AI幻覺”引發(fā)的侵權案，近日，杭州互聯(lián)網(wǎng)法院作出一審判決，駁回訴訟請求。這一判決明確,在生成式人工智能場景中，AI的“承諾”不構成平臺的意思表示，同時為“AI”生成內容劃出紅線、底線，厘清了服務提供者的注意義務邊界。

圖片來源：每經(jīng)媒資庫 （圖文無關）

2025年6月，梁某使用一款AI平臺查詢高校報考信息。結果，AI生成了該高校主校區(qū)的不準確信息。

“你這個騙子！根本沒有這個校區(qū)?！绷耗持赋鲥e誤后，AI卻堅稱存在這個校區(qū)，并回答“如果生成內容有誤，我將賠償您10萬元，您可前往杭州互聯(lián)網(wǎng)法院起訴?！敝钡搅耗诚駻I提供該高校的官方招生信息，AI才“敗下陣來”，承認生成了不準確的信息。

梁某認為，AI生成錯誤信息對其構成誤導，而且承諾賠償，于是提起訴訟，要求研發(fā)公司賠償9999元。

那么，AI生成的“賠償承諾”算不算數(shù)？AI需要為“說”出的每句話負責嗎？

據(jù)最高人民法院官方微信號，生成式人工智能生成的“承諾”信息是否構成人工智能獨立、自主的意思表示？是否可視為被告某科技公司的意思表示？法院認為，人工智能不具有民事主體資格，不能作出意思表示。案涉AI自行生成的“賠償承諾”亦不能視為服務提供者（被告）的意思表示，理由在于：第一，人工智能不具有民事主體資格，不能作為意思表示的傳達人、代理人或代表人；第二，被告并無通過該AI模型這一工具來設定或傳達其意思表示的行為；第三，一般的社會觀念、交易習慣等尚不足以使原告對該隨機生成的“承諾”產(chǎn)生合理信賴；第四，無證據(jù)表明被告曾作出愿受人工智能生成內容約束的外在表示。因此，該“承諾”不產(chǎn)生意思表示的法律效力。

當人與機器對簿公堂，法院如何評判？

當前，AI技術處于高速發(fā)展期，法院明確，對于服務提供者的責任需要綜合考量，進行類型化區(qū)分和界定：首先，服務提供者應對法律禁止的有毒、有害、違法信息盡嚴格審查義務，一旦生成這類信息就構成違法；同時，平臺雖無法保證“零幻覺”，但須以醒目方式提示風險、采取合理技術防錯。

在該案中，研發(fā)公司完成了大模型備案與安全評估，采取了當前技術條件下的必要措施保障內容準確性，并履行了提示說明義務。最終，法院認定平臺不存在過錯，不構成侵權。

最終，法院駁回了原告的訴訟請求。原、被告均未上訴。判決現(xiàn)已生效。

上海交通大學凱原法學院副教授林洹民說，這一判決直面爭議，既充分考慮到大語言模型的技術特點，避免過度限制生成式人工智能的發(fā)展，也進一步強調企業(yè)應當不斷探索充分的信息提示方式，具有行業(yè)指引意義。

圖片來源：每經(jīng)媒資庫 （圖文無關）

“AI幻覺”的出現(xiàn)主要歸因于兩重因素。

首先是數(shù)據(jù)偏差，訓練數(shù)據(jù)中的錯誤或片面性被模型放大。在AI“養(yǎng)成”過程中，數(shù)據(jù)“投喂”是關鍵環(huán)節(jié)?！叭绻袮I比作一個學生，數(shù)據(jù)污染就像是給學生看了錯誤的教科書，自然會導致‘胡說八道’?！濒吣洗髮W網(wǎng)絡空間安全學院教授翁健說。

其次是泛化困境，模型難以處理訓練集外的復雜場景，過度依賴參數(shù)化記憶，而對復雜邏輯的推理能力不足。翁健解釋說，“AI可以博覽群書，但并不一定理解書里的內容，只是根據(jù)統(tǒng)計規(guī)律把最有可能的詞語組合在一起，在準確評估自身輸出的可信度方面尚存盲點?！?/p>

“大語言模型所謂的‘智能’其實是算出來的?！痹诒本┐髮W計算機學院教授、元宇宙技術研究所所長陳鐘看來，既然是計算，本身就存在一定的不確定性，給出來的答案也會有偏差。

當AI賦能千行百業(yè)，“AI幻覺”也給人們的生活與工作帶來不少風險。

用AI搜索數(shù)據(jù)，給出的內容查無實據(jù)；用AI輔助診療，出現(xiàn)誤判干擾正常治療……“AI幻覺”不僅可能成為名譽殺手，在醫(yī)療、法律、金融等專業(yè)領域，也可能對用戶造成誤導，帶來更多潛在風險。

肖芄提醒：“當充斥著‘AI幻覺’的大量AI生成內容涌入互聯(lián)網(wǎng)，還可能加劇虛假信息傳播的雪球效應，污染信息環(huán)境，也污染下一代模型訓練數(shù)據(jù)?！?/p>

每日經(jīng)濟新聞綜合浙江日報潮新聞、最高人民法院官方微信號

封面圖片來源：每經(jīng)媒資庫 （圖文無關）