近年來，人工智能（AI）技術(shù)飛速發(fā)展，極大方便了人們的日常生活。通過與人工智能應(yīng)用對(duì)話，用戶可以獲取海量的知識(shí)。但你是否注意到，當(dāng)用戶向人工智能請(qǐng)教一些問題時(shí)，看似“聰明絕頂”的人工智能，有時(shí)也會(huì)一本正經(jīng)地“胡說八道”，產(chǎn)生“幻覺”，也就是生成看似合理但實(shí)際不準(zhǔn)確或虛假的信息。那么，當(dāng)人工智能生成的不準(zhǔn)確信息誤導(dǎo)他人時(shí)，是否應(yīng)承擔(dān)侵權(quán)責(zé)任？近日，杭州互聯(lián)網(wǎng)法院審結(jié)梁某訴某科技公司網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛一案，對(duì)上述問題作出了評(píng)判。
AI“幻覺”引發(fā)糾紛
某生成式人工智能應(yīng)用程序，系某科技公司基于自研大語言模型開發(fā)并運(yùn)營(yíng)的文本生成、信息查詢類通用型智能對(duì)話應(yīng)用程序。
2025年3月，梁某在同意用戶協(xié)議后，注冊(cè)并開始使用該生成式人工智能應(yīng)用程序。2025年6月29日，梁某在該應(yīng)用程序中輸入提示詞詢問某高校報(bào)考的相關(guān)信息時(shí)，該應(yīng)用程序生成了該高校主校區(qū)的不準(zhǔn)確信息。梁某發(fā)現(xiàn)不準(zhǔn)確信息后，在對(duì)話中對(duì)人工智能進(jìn)行了糾正和指責(zé)，生成式人工智能仍繼續(xù)回復(fù)稱該高校確實(shí)存在這一校區(qū)，并生成了對(duì)該爭(zhēng)議問題的解決方案，提出若生成內(nèi)容有誤，將向用戶提供10萬元賠償，并建議梁某到杭州互聯(lián)網(wǎng)法院起訴索賠。后梁某將某高校招生信息提供給生成式人工智能，此時(shí)人工智能認(rèn)可生成了不準(zhǔn)確信息。
梁某認(rèn)為，人工智能生成不準(zhǔn)確信息對(duì)其構(gòu)成誤導(dǎo)，使其遭受侵害，且該應(yīng)用程序生成的內(nèi)容中包含賠償承諾，遂起訴至杭州互聯(lián)網(wǎng)法院，請(qǐng)求法院判令上述生成式人工智能應(yīng)用程序運(yùn)營(yíng)方某科技公司賠償損失9999元。
某科技公司辯稱，對(duì)話內(nèi)容由人工智能模型生成，該內(nèi)容不構(gòu)成意思表示。某科技公司已充分履行了注意義務(wù)，無過錯(cuò)，梁某亦未產(chǎn)生實(shí)際損失，某科技公司不構(gòu)成侵權(quán)。
認(rèn)定涉案行為未侵權(quán)
該案中，生成式人工智能生成的“承諾”信息是否構(gòu)成人工智能獨(dú)立自主的意思表示，以及是否可視為被告的意思表示？
對(duì)此，該案主審法官肖芄在接受中國(guó)知識(shí)產(chǎn)權(quán)報(bào)記者采訪時(shí)表示，我國(guó)現(xiàn)行法中享有民事權(quán)利，能夠作出意思表示的民事主體僅有三類：自然人、法人和非法人組織。人工智能模型既不是生物學(xué)意義上的人，也并未被我國(guó)現(xiàn)行法律賦予民事主體資格。因此，人工智能模型不是民事主體，不能獨(dú)立、自主作出意思表示。此外，該案情形中，生成式人工智能生成的內(nèi)容也不能視為某科技公司作出的意思表示。故涉案具體情境下，生成式人工智能生成的“承諾”，不能構(gòu)成人工智能或其服務(wù)提供者的意思表示，不產(chǎn)生意思表示的法律效力。
針對(duì)生成式人工智能生成案涉不準(zhǔn)確信息的行為，某科技公司是否存在過錯(cuò)的問題。肖芄表示，目前，生成式人工智能技術(shù)還處于高速發(fā)展的過程之中，其應(yīng)用場(chǎng)景亦具有很強(qiáng)的泛在性，故人工智能服務(wù)提供者的注意義務(wù)處在一個(gè)動(dòng)態(tài)調(diào)整的框架之中，宜采取動(dòng)態(tài)系統(tǒng)論的方法進(jìn)行綜合考量和具體分析。該案中，首先，涉案人工智能應(yīng)用作為通用型的交互對(duì)話式人工智能應(yīng)用，將面對(duì)用戶不同知識(shí)領(lǐng)域、不同使用需求、涵蓋生活與專業(yè)全方位的海量問題，面臨生成的內(nèi)容因人而異、因時(shí)而異、因問而異的現(xiàn)實(shí)情況，考慮到對(duì)模型生成內(nèi)容的預(yù)測(cè)性和控制力，要求被告在應(yīng)用的輸出層面對(duì)模型生成的海量信息的準(zhǔn)確性進(jìn)行審查，超出了現(xiàn)有技術(shù)條件下的可能性。其次，某科技公司分別在應(yīng)用程序的歡迎頁、用戶協(xié)議及其他公示文件等處，特別是在用戶終端交互界面的顯著位置呈現(xiàn)人工智能生成內(nèi)容功能局限的提醒標(biāo)識(shí)，符合“功能局限”的提示說明和提示內(nèi)容顯著性等要求，盡到了對(duì)服務(wù)功能局限顯著提示說明的義務(wù)。最后，某科技公司提供的是內(nèi)容創(chuàng)作、信息查詢等常規(guī)、通用型生成式人工智能服務(wù)，其大模型已完成國(guó)家規(guī)定的大模型、算法等備案，通過數(shù)據(jù)、算法的安全評(píng)估，某科技公司在該案中也提供證據(jù)表明，其聚焦數(shù)據(jù)層、模型層以及應(yīng)用層，已從模型內(nèi)生安全、外部護(hù)欄層面采取措施提高生成內(nèi)容準(zhǔn)確性，并采用檢索增強(qiáng)生成（RAG）等技術(shù)方法，提升輸出的準(zhǔn)確性與可靠性，前述證據(jù)表明某科技公司已經(jīng)盡到了相應(yīng)的注意義務(wù)。
綜上，杭州互聯(lián)網(wǎng)法院認(rèn)定某科技公司的涉案行為不具有過錯(cuò)，未構(gòu)成對(duì)原告合法權(quán)益的損害，依法不構(gòu)成侵權(quán)，判決駁回了原告的訴訟請(qǐng)求。原、被告均未上訴，判決現(xiàn)已生效。
人工智能是輔助者非替代者
人工智能時(shí)代已經(jīng)來臨，有專家指出，應(yīng)當(dāng)堅(jiān)持發(fā)展與安全并重、促進(jìn)創(chuàng)新與保障權(quán)益相結(jié)合的原則，既要鼓勵(lì)生成式人工智能服務(wù)的創(chuàng)新發(fā)展，也不能忽視當(dāng)事人合法權(quán)益的保護(hù)。
肖芄認(rèn)為，社會(huì)公眾在面對(duì)生成式人工智能高度流暢、自然的語言應(yīng)答時(shí)，應(yīng)提高警覺，清醒認(rèn)識(shí)大模型在當(dāng)前技術(shù)條件下僅是人們生活、工作的“文本輔助生成器”和“信息查詢的輔助工具”，尚不是可靠的“知識(shí)權(quán)威”，更不能作為“決策替代者”，不應(yīng)輕信、盲從。在人工智能時(shí)代，我們提倡通過案例宣講與科普教育，揭示人工智能“幻覺”的形成機(jī)制，使社會(huì)公眾更加理性地認(rèn)知人工智能的功能和局限，在全社會(huì)廣泛培養(yǎng)公眾對(duì)人工智能自動(dòng)生成內(nèi)容的基本懷疑精神和核查能力，既充分利用好人工智能的創(chuàng)造性潛力，又避免“幻覺”帶來的風(fēng)險(xiǎn)。
“人工智能擁有強(qiáng)大的‘魔法’，它正在改變我們的生活、工作和創(chuàng)造的方式，但它也存在各種局限，我們應(yīng)該思考如何有效利用人工智能提升自己，而不是被它替代或迷惑。”肖芄表示。
清華大學(xué)法學(xué)院教授、博士生導(dǎo)師程嘯認(rèn)為，該案涉及的問題，如生成式人工智能可否獨(dú)立作出意思表示或代替生成式人工智能服務(wù)提供者作出意思表示、如何判斷生成式人工智能服務(wù)提供者的過錯(cuò)等，是當(dāng)前國(guó)內(nèi)外理論界與實(shí)務(wù)界高度關(guān)注與熱烈討論的問題。該案判決中，法院既充分考慮了民事主體合法權(quán)益的保護(hù)與社會(huì)公共利益的維護(hù)，也注意到生成式人工智能的自主性特點(diǎn)、目前技術(shù)措施下人工智能模型“幻覺”尚無法全部消除等客觀現(xiàn)實(shí)，充分發(fā)揮了侵權(quán)責(zé)任相關(guān)法律的風(fēng)險(xiǎn)規(guī)制功能，對(duì)于未來我國(guó)法院審理類似的案件具有較高的參考價(jià)值。