隨著生成式人工智能深度融入我們的生產生活，“有問題問AI”已經成為不少人的習慣，但AI帶給我們便利的同時，也伴隨著一些問題，比如有人就發現，AI提供的內容並不那麼准確，有時甚至會出現嚴重的錯誤。當AI一本正經地“胡說八道”，就是AI“幻覺”的典型表現。

　　北京的律師黃貴耕就被AI“幻覺”搞得挺鬧心，他無端被AI捏造了多項不實罪名，職業名譽也因此受損。這到底是怎麼回事？

　　律師被捏造多項罪名

　　竟是"AI幻覺"惹禍

　　黃貴耕是北京的一名律師，去年5月，他經朋友介紹，成為一起刑事案件的代理律師。被告人家屬為了了解他的情況，就在百度平臺檢索相關信息，不料平臺AI竟自動生成了多條關於黃貴耕律師的虛假負面內容。

　　黃貴耕：比如說搜黃貴耕律師辦理的案件，百度跳出一大堆，關於黃貴耕涉嫌威脅法官、私刻印章、介紹賄賂等。當事人家屬搜到之後，就感到很震驚。這個律師怎麼存在這麼多污點。

　　黃貴耕告訴記者，這些不實內容均與他本人無關。起初，他還以為是有人在惡意詆毀。

　　黃貴耕：我當時都沒有想到是百度AI自動生成的，我還懷疑是同行，因為當時我的當事人還請了另外一個律師。

　　後來，被告人家屬告知，相關內容是搜索時百度AI自動生成的。黃貴耕核查發現，所謂恐嚇法官被罰款3萬元一事，實際是人民法院報報道的發生在四川成都天府區法院的新聞中，“律師黃某”因判決結果與預期不符，對承辦法官進行侮辱、恐嚇，黃某被法院罰款3萬元。百度AI則將新聞中的“律師黃某”，直接替換成了“黃貴耕”。

　　而“偽造公司印章”，實際是媒體報道過的另一起案件:“法律顧問黃某”偽造印章試圖追討1000餘萬元債務。百度AI把“法律顧問黃某”直接替換成了“黃貴耕”。

　　黃貴耕：對這種AI會生成這麼惡劣信息，就是突破一般人的想象，他不會相信這是假的。如果百度AI這種不負責任的行為，就是生成虛假負面信息，如果得不到遏制的話，很多人都會成為它的潛在受害對象。

　　於是，黃貴耕律師決定起訴北京百度網訊科技有限公司，案件正在審理中。目前，百度搜索已不再顯示AI生成的關於“黃貴耕律師犯罪”等虛假信息。

　　AI將個人電話號碼

　　錯誤標注為某養殖場

　　類似的事件還有不少，近日，一位網友吐槽，自己的手機不斷接到陌生電話，對方開口就問是否賣豬。起初他以為是惡作劇，後來纔發現，這些電話竟然來自豆包AI的搜索結果，他的號碼被AI錯誤標注為某養殖場的聯系方式。AI為何會產生這樣的“幻覺”？這種“幻覺”能否避免呢？

　　某人工智能公司首席AI專家 王佔一：AI的幻覺現在主要指的是大模型的幻覺，那就是大模型在它的生成、回答的過程中，看似生成了很多合理的、很流暢、很自然、語義語法、也沒問題的回答，但是它在事實性、真實性上面是有問題的，可能比較自信，一本正經在說什麼，但是其實是不對的。

　　當AI一本正經地“胡說八道”時，便是“AI幻覺”的典型表現。由於AI給出的回答讀著通順、語氣篤定，用戶往往很難判斷其真偽。那麼，AI為什麼會產生這種幻覺呢？

　　某人工智能公司首席AI專家王佔一解答：

　　第一個方面是在數據層面，訓練的數據有可能質量差或者數據缺失，數據的時效性不夠，以及問題可能是它沒有學過。

　　第二個也是最關鍵的，就是模型本身的實現機制。因為它本身是一種概率模型，它依賴於前面的上文去推理下一個詞，這個過程中可能就會有一些“幻覺”，是因為它去回答的時候是更加關注於怎麼樣更加流暢，但是它沒有關注到事實性。

　　第三個，在推理和上下文的時候，上下文過長，會對模型的能力提出挑戰，用戶他的輸入和指令可能也有前後矛盾的，模型可能也不知道應該選哪個，這也有可能識別錯。

　　AI出現"幻覺"導致侵權事件發生

　　誰擔責？

　　AI“幻覺”導致虛假信息頻發，有時候甚至會侵犯名譽權等，面對這類問題，我國現行法律法規有哪些明確規定？

　　中國政法大學網絡法學研究所所長 李懷勝：《生成式人工智能服務管理暫行辦法》規定，生成式人工智能服務提供者要承擔網絡信息內容生產者的一個法律地位，而且生成的內容不得實施或者用來侵害他人人格權、名譽權、個人信息權益等相關權益。如果說相關的內容造成他人損害，就按照民法典的一般侵權的過錯責任原則來進行相關的審查。

　　專家表示，為規范人工智能發展，我國已初步形成以《中華人民共和國民法典》等法律為基礎、《生成式人工智能服務管理暫行辦法》為核心規范，並輔以《人工智能生成合成內容標識辦法》等多層次制度框架的AI生成內容法律規制體系，在一定程度上能夠為規制AI“幻覺”提供基本依據。

　　當前技術條件下，AI生成內容難以做到百分之百准確，是由於技術發展的不完善造成的，但這並不意味著AI服務提供者可以免責，作為平臺，需承擔以下法律義務。

　　中國社會科學院法學研究所研究員 支振鋒：對於法律禁止的“有毒”、有害、違法信息負有嚴格審查義務。AI服務提供者應當依法承擔網絡信息內容生產者責任，履行網絡信息安全義務。對於涉及國家安全、社會公共利益以及他人合法權益保護的違法信息，平臺不得以“系AI生成”為由免除審查責任。

　　專家表示，平臺要以顯著方式向用戶提示AI生成內容可能不准確，對可能生成的有害信息提供事前預防和事後救濟途徑。

　　中國社會科學院法學研究所研究員 支振鋒：在事前預防層面，平臺應盡可能做到功能可靠性的基本的注意義務，采取同行業通行的技術措施提高生成內容的准確性。事後救濟層面，如果平臺發現或接到投訴知悉存在一些AI生成的不實信息內容後，應當及時檢驗生成內容，並在確認侵權後第一時間采取刪除內容、禁止傳播等必要措施，防止損害擴大，平臺是可以有作為的，也是有可能會承擔相應的法律責任的。

　　專家：當前"AI幻覺"

　　不能完全避免但可緩解

　　專家告訴記者，作為平臺方，“AI會產生幻覺”這件事本身，是完全可預見的，但具體何時、針對哪個問題會出現幻覺，卻難以判斷。不過，在當前技術條件下，AI幻覺雖無法完全消除，仍可通過預防措施來降低其發生概率。

　　某人工智能公司首席AI專家王佔一表示，可以通過這些手段綜合起來可以將幻覺盡量去降低。

　　在數據層面做一些優化。

　　在訓練層面，通過強化學習的訓練方法，讓它能夠更准確。

　　在後面模型應用時，在裡邊加一些工程化的手段，讓它盡量去緩解幻覺，校驗可以用多個大模型或者智能體之間去相互校驗，

　　可以做一些類似於護欄手段，比如說輸出涉及容易出幻覺的地方，這些可以做一個交叉驗證，是不是別的地方也有這種足夠翔實的來源。

　　遭遇"AI幻覺"造謠誤導侵害

　　如何維權？

　　AI會一本正經胡說八道，會出現幻覺，所以專家也提醒，網友在使用AI時 就不能完全相信AI搜索得出的結論，務必要進行交叉印證。我們如果遭遇了AI“幻覺”造謠、誤導侵害，該如何維權呢？

　　中國政法大學網絡法學研究所所長 李懷勝：

　　第一是應當及時固定證據，通過截屏錄屏或者公證的方式，來留存相應的自身權利受到侵害的證據。

　　第二是向相關的網絡平臺及時進行舉報，要求網絡平臺撤除相關的侵權信息。

　　第三是向相關的網信監管部門及其有關的行政主體來進行行政舉報，

　　第四是向人民法院提起司法訴訟。當然如果相關的侵權內容嚴重損害自身的合法權利，涉嫌犯罪的，也可以向公安機關提請報案。