繁體
  • 简体中文
  • 繁體中文

熱門資訊> 正文

AI行業分析:企業數智化轉型中,AI幻覺引發的治理挑戰與防控策略

2025-08-12 16:13

  炒股就看金麒麟分析師研報,權威,專業,及時,全面,助您挖掘潛力主題機會!

(來源:未來智庫)

(報告出品方/作者:國泰海通證券,趙子健、王佳、蔡晨)

1. AI 幻覺已在應用端形成多重危機

AI 幻覺(AI hallucinations)是指人工智能模型生成的看似合理但實際錯誤的內 容,這種現象通常表現爲脱離現實、邏輯斷裂或偏離用户需求的輸出。大語言模 型(LLM)在生成過程中可能感知到人類觀察者無法察覺或不存在的模式或物體, 從而產生毫無意義或完全不準確的輸出。這些錯誤的成因複雜多樣,包括訓練數 據不足、模型過擬合、數據偏差、錯誤假設以及上下文理解不足等。AI 幻覺不僅 在日常應用中可能引發誤導性信息傳播,更在醫療診斷、金融交易等關鍵領域帶 來嚴重后果,例如誤診、誤治或經濟損失。 AI 幻覺可劃分爲事實性幻覺與忠實性幻覺兩個主要類別。事實性幻覺具體表現為 生成內容與客觀事實存在顯著偏差,而忠實性幻覺則體現為模型輸出對原始輸入 語境進行非理性延伸或語義扭曲。雖然此類現象在創意生成領域可能具有啓發式 價值,但其引發的系統性風險值得重點關注:可能引發信息失真、公眾信任度下 降、倫理困境等多維度社會問題,同時從技術層面嚴重製約 AI 應用的可解釋性與 可靠性。

1.1. 大語言模型中 AI 幻覺現象引發關注

當前主流大語言模型的幻覺發生率呈現顯著分化特徵,頭部商業模型已實現超低 幻覺率。根據 Vectara 基於 HHEM-2.1 模型的評估數據(截至 2025 年 4 月 29 日), 谷歌 Gemini-2.0-Flash-001 以 0.7%的幻覺率位列榜首,OpenAI、谷歌及智譜 AI 等 企業旗下共9款模型的幻覺率均低於1.5%,其中GPT-4o(1.5%)、GLM-4-9B(1.3%) 等模型在保持高事實一致性(98.5%-99.3%)的同時,平均摘要長度穩定在 60-90 詞區間。這標誌着通過模型架構優化和強化對齊訓練,頭部廠商已能在文本摘要 場景中將幻覺風險控制在工業級應用可接受範圍內,已滿足金融、醫療等敏感場 景的應用標準。技術突破主要源於兩大創新:谷歌通過實時連接知識庫驗證信息真偽,OpenAI 則開發了智能檢測系統自動過濾矛盾信息。測試顯示,在處理複雜 文檔時,頂級模型的錯誤率較兩年前下降超過 80%,關鍵信息遺漏問題從 17.6% 降至 3.2%。 值得注意的是,這些成果是在嚴格測試條件下取得的。Vectara 評估要求 AI 必須 完整還原文檔核心要素,包括事件經過、人物關係和因果關係鏈。即便面對需要 跨段落分析的複雜資料,頂尖系統的表現波動始終控制在 0.2%以內。這種穩定性 得益於特殊的"固定生成模式",使得 AI 在輸出關鍵信息時幾乎不會隨機變動。目 前,這些先進技術已在上市公司財報解析、電子病歷整理等高風險領域投入實用, 為行業樹立了可靠性標杆。

1.2. 技術原理造成 AI 幻覺難以避免

大型語言模型的技術架構和訓練方法在本質上創造了幻覺不可避免的條件。這些 模型的核心功能並非通過真正的理解來實現,而是通過複雜的模式匹配和統計預 測。當用户輸入一個問題時,人工智能並不會訪問一個經過驗證的結構化數據庫; 相反,它會根據訓練期間觀察到的模式,預測統計上最有可能的詞語序列。這種 基本設計使得幻覺成為不可避免的漏洞。在訓練過程中,這些模型會吸收大量的 文本語料庫,壓縮並編碼詞語和概念之間的統計關係,但這種壓縮本質上會導致 信息丟失和不一致性。訓練數據本身也帶來了進一步的複雜性,它可能包含偏見、 錯誤、過時的信息或對某些主題的不完整表述。由於缺乏真正的理解能力,模型 無法區分訓練數據中的事實與虛構,兩者都會被同等內化。 此外,大型語言模型缺乏外部驗證機制。它們無法對自己的輸出進行事實覈查, 也無法識別何時超出了自己的知識邊界。推理過程本身通過其固有的隨機性引入 了另一個漏洞,為錯誤的累積創造了機會。像過擬合這樣的模型架構問題進一步 加劇了幻覺,因為系統可能過於緊密地校準到訓練數據的特殊性,而不是發展出 可推廣的理解能力。這些技術限制共同構成了一個閉環,使得 AI 幻覺不僅可能發生,而且不可避免。 理論研究表明,幻覺是大語言模型不可避免的侷限性,而非一個暫時的技術挑戰。 新加坡國立大學計算學院一項研究表明,大語言模型的幻覺是計算複雜性約束下 的必然結果:由於模型無法窮舉所有可計算函數,其生成內容必然存在與真實世 界的不一致,這使得幻覺的發生在數學上是不可避免的。問題的根源在於模型處 理和生成語言的基本方式:它們通過預測詞語之間的統計可能性來生成文本,而 沒有發展出真正的語義理解能力。一個恰當的類比是,一個學者記住了大量的文 本,卻沒有真正理解其中的核心概念,也沒有發展出獨立驗證信息的能力。這種 侷限性在統計模式識別和真正的知識表示之間創造了一道無法逾越的鴻溝。這些 模型缺乏對世界的因果理解,而是通過訓練數據中識別的相關性模式進行操作。 當面對需要超越這些統計模式進行推理的問題或場景時,模型別無選擇,只能基 於松散的關聯而非事實知識來「幻覺」出回答。這一理論侷限性解釋了為什麼儘管 在模型規模、訓練方法和對齊技術方面取得了顯著進展,幻覺仍然是一個頑固的 問題。

幻覺現象源於數據、訓練與推理的多維缺陷,本質是模型對事實關聯與邏輯一致 性的建模不足。大型語言模型的幻覺現象核心機制來自數據、訓練與推理三個階 段。數據層面,預訓練數據的質量問題,如錯誤信息、知識邊界限制、社會偏見 等,會直接導致模型內化錯誤知識或過度依賴統計關聯。數據中的虛假信息(如 過時事實、虛構實體)會被模型視為潛在「知識」,而長尾知識的稀疏性則限制了 模型對低頻事實的準確召回。此外,多模態模型中視覺與文本數據的弱對齊(如 噪聲描述、細節缺失)進一步加劇了跨模態幻覺。訓練層面,模型在預訓練階段 通過自迴歸目標學習統計模式,但無法區分事實性關聯與虛假相關性。例如,模 型可能將「美國總統」與「特朗普」高頻共現的偏見固化為「知識」,而忽略拜登 作為現任總統的更新。對齊微調雖能優化指令跟隨能力,但若超出預訓練知識範 圍,反而會因知識覆蓋不足觸發「自信型幻覺」。推理層面,自迴歸生成機制中的 局部注意力策略與隨機採樣放大了邏輯偏差。模型傾向於優先生成高頻詞匯或早 期錯誤假設,而非全局最優路徑,導致錯誤累積與邏輯斷層。舉例來看,在複雜 推理任務中,模型可能因注意力機制忽略關鍵前提而生成矛盾結論。 從技術實現視角看,幻覺現象是模型表徵能力與任務複雜度失衡的產物。當前主 流 Transformer 架構的注意力機制雖能捕捉局部語義關聯,但對篇章級邏輯關係的 建模仍存在侷限,導致生成內容易出現上下文斷裂或意圖誤解,即 Transformer 對 長序列的注意力稀釋問題導致其對細粒度事實關聯的建模能力不足。例如在金融 風險分析場景中,模型可能將偶發性市場波動錯誤歸因為系統性因素,形成因果 歸因幻覺。此外,解碼策略的隨機性(如高温採樣)放大了概率分佈邊緣區域的 錯誤選擇可能,而有限的上下文窗口則限制了對長程依賴關係的捕捉能力,進一 步加劇信息缺失下的「創造性補充」行為。

DeepSeek R1 模型在推理能力上的表現令人矚目,但卻呈現出更高的幻覺率。 Vectara 公司開發了行業領先的評估框架,如 HHEM(Hallucination and Hard Error Metric),用於量化 AI 生成內容的可靠性。這些工具被用於其公開的幻覺率排行 榜,為開發者提供模型選型參考。2025 年 1 月 10 日,DeepSeek 發佈了其推理模 型 Deepseek-R1。這一模型因其推理能力與 OpenAI-o1 模型相媲美而引發熱議。 Vectara 通過兩種方法評估 DeepSeek R1 模型生成摘要的可靠性,分別是 Vectara HHEM 2.1(專用於檢測幻覺的判別模型)和 Google FACTS 框架(基於 GPT-4o、 Claude-3.5-Sonnet 和 Gemini-1.5-Pro 的綜合評分)。在將 DeepSeek R1 納入 Vectara 的幻覺率排行榜評估后的結果顯示,,Deepseek-R1 的幻覺率高達 14.3%,顯著高 於非推理優化的前代模型 Deepseek-V3(3.9%)。此外,R1 的 HHEM 評分均值(0.82 vs. 0.92)和標準差(0.23 vs. 0.06)均劣於 V3,表明其生成內容的一致性更低。

DeepSeek R1 模型的推理能力提升主要依賴於強化學習框架下長思維鏈(Chainof-Thought, CoT)數據的訓練範式。具體而言,該模型採用四階段訓練流程:首 先通過收集數千條長 CoT 數據對基礎模型進行監督微調,形成初始強化學習執行 者;隨后通過迭代式強化學習訓練增強複雜任務中的多步推理能力。這種訓練策 略使模型在數學推理、編程等需要深度邏輯分析的場景中展現出接近 GPT-4-o1 的 性能,但在簡單任務中呈現顯著侷限性——過長的思維鏈會引發任務複雜化偏差, 導致模型在摘要生成、事實覈查等低複雜度任務中出現內容編造概率升高現象。 AI 幻覺現象源於 DeepSeek R1 訓練機制的雙重特性。一方面,強化學習過程中對 創造性生成的獎勵傾斜使模型在文學創作等場景具備優勢,但在事實性任務中易 產生過度推理;另一方面,語言一致性約束的不足導致思維鏈存在邏輯冗余和發 散傾向。若體驗過 DeepSeek 的「深度思考(R1)」功能,不難發現,即使面對看 似簡單的任務需求,模型仍會通過多維度拆解進行詳盡解析。這種對基礎任務的 過度延展,雖體現了深度思考能力,但同時也可能因過度發散而產生不實信息, 將簡單任務複雜化,進而加劇生成內容中「重邏輯,輕事實」的 AI 幻覺現象。 Vectara 的實驗數據顯示,在摘要任務中,DeepSeek R1 的幻覺率相較基礎模型 V3 提高 10.4 個百分比,這可能與其訓練過程中未對簡單任務進行特別優化的設計策 略直接相關。因此,研究建議採用任務適應性模型選擇策略:在需要深度推理的 複雜場景使用 R1 模型,而在事實性要求高的場景切換至 DeepSeek V3 通用模型, 以減少幻覺現象發生,輸出更穩定的結果。

1.3. AI 幻覺催生的風險事件頻發

「80 后死亡率破 5.2%」信息廣泛傳播,造成恐慌式營銷。2025 年 2 月,一組關 於 80 后死亡率的數據在網上引發廣泛關注,號稱「截至 2024 年末,80 后死亡率 突破 5.2%,相當於每 20 個 80 后中就有 1 人已經去世」,甚至提到,「80 后的死亡 率已經超過 70 后」。網絡上有文章號稱,這些駭人聽聞的數據來自第七次全國人 口普查,是所謂的「權威數據」。 存在信源與專業性等明顯漏洞,人口領域專家出場闢謠。根據央視新聞報道,長 期從事人口發展研究的中國人民大學人口與健康學院教授李婷表示,這一數據與 事實嚴重不符。經覈查發現,大多數文章都號稱該數據來自第七次全國人口普查的數據。然而第七次全國人口普查的時間是 2020 年,顯然無法預測 2024 年的死 亡率。而且,人口普查數據只會公佈上一年對應時期的死亡率(例如 2020 年的第 七次全國人口普查反映的是 2019 年 11 月 1 日到 2020 年 10 月 31 日的死亡率), 且並不針對特定羣體,故不會有 80 后死亡率的統計結果。李婷教授還提到,專業 統計數據中關於死亡率用千分率表示,而不是百分率,故「5.2%死亡率」系錯誤 表達。此外,李婷教授表示,這一數據還混淆了「累計死亡比例」與「年死亡率」 的定義。死亡率數值比較小,通常只有千分之幾,而「每 20 個 80 后中 1 人已離 世」描述的是累積的死亡比例。 AI 大模型訓練語料偏差加劇數據污染風險。根據李婷教授溯源梳理,此錯誤數據 很可能是 AI 大模型在問題回答過程中出現錯誤導致。李婷教授在 AI 大模型中輸 入了「50、60、70、80,這幾代人的死亡率分別是多少」的問題,大模型顯示, 根據網絡信息得出了「80 后現存 2.12 億,存活率 94.8%,死亡率 5.2%」的表述。 李婷教授解釋,因為累計死亡概率等概念相對專業,是一個相對冷門的知識點, AI 模型可能由於訓練語料不足,導致推算出現錯誤,從而導致形成"算法污染-流 量變現"的惡性循環。

AI 幻覺在法律領域近年來引發了多起職業風險事件。2023 年 2 月,美國紐約南 區聯邦地區法院的「馬塔訴阿維安卡公司案」(Mata v. Avianca,Inc.)中,兩名律 師及其律所因提交了 ChatGPT 虛構的司法意見而受到法院制裁。2023 年 5 月,美 國科羅拉多州一名律師的動議因為引用了 ChatGPT 生成的虛假案件而被駁回。英 國《律師協會公報》(The Law Society Gazette)也在 2023 年 5 月報道了一起發生 在曼徹斯特法院的案例,法院在審理過程中發現民事訴訟當事人援引了四個虛假 案件支持其主張——這些案件均由 ChatGPT 提供。

AI 幻覺引發的專業領域應用危機在醫療行業已顯現系統性風險。截止 2025 年 3 月,全國已有超過 400 家醫院部署 DeepSeek 並實現場景化落地,數字背后是是醫 療行業對智能化、高效化、精準化醫療服務的迫切需求與積極探索。此外,社交 媒體平臺近期有不少 DeepSeek 代替醫生看病的主題報道,並一度有 AI 是否能代 替醫生臨牀決策的討論出現。上海某三甲醫院主任醫師發文稱,對於非從業人士 而言,並沒有甄別散在於多數正確答案中的少數錯誤的能力,提醒普通病人不能 輕信 AI,仍要從醫生處得到最后的診斷。當前我國通過 NMPA 認證的 AI 醫療產 品主要集中在醫學影像輔助診斷、慢性病管理等領域,且多數被歸類為第三類醫 療器械(需嚴格監管的高風險產品),而 DeepSeek 等生成式 AI 尚未取得醫療器械 資質。

醫療領域 AI 幻覺現象突出表現爲診斷偏差、責任歸屬模糊及監管滯后等核心矛 盾。據 2024 年 8 月發表在《Journal of Medicine, Surgery, and Public Health》雜誌 上的一篇關於人工智能與非洲癌症治療的研究文章表明,AI 影像系統在非洲病人 中的誤診率比歐洲整體高出 22%。上海某三甲醫院放療科醫生指出,鑑於當前訓 練大型 AI 模型所依賴的原始數據集及模型算法邏輯的侷限性,直接依據 AI 提供 的醫療建議而繞過專業醫生的審覈與校對,仍存在較高的醫療風險,甚至可能引 發危及生命的嚴重后果。此外,政策層面呈現監管收緊態勢,湖南省率先明確禁 止 AI 自動生成處方,呼應國家衞健委"AI 不得替代醫師接診"的底線原則,其本 質在於現行法律框架下 AI 無法承擔醫療主體責任。

金融領域的幻覺風險引發系統性信任挑戰。當前 AI 模型的預測能力高度依賴歷 史數據質量與訓練效果,若數據存在偏差或訓練不充分,可能導致業務決策失誤。 例如信貸審批場景中,若模型訓練數據隱含對特定地區或人羣的歷史歧視,可能 錯誤設置更高的融資門檻;保險理賠環節若數據樣本缺失合理理賠案例,可能引 發對服務公平性的輿論質疑。同時,算法"黑箱"特性使得錯誤決策難以追溯解釋, 當客户因模型誤判遭受損失時,極易升級為法律糾紛與聲譽危機。

2. AI 幻覺現象或引發企業的多維度治理風險

AI 技術的規模化部署正在重塑企業運營模式,但同時也催生了系統性風險。德勤 的調研報告顯示,當前企業高管最為關注的三大風險分別為安全漏洞、監控風險 及隱私風險。AI 解決方案及其所處理的大數據量可能存在安全隱患,一旦遭遇數 據竊取或泄露事件,將引發鉅額成本。具體而言,2024 年全球數據泄露平均成本 接近 500 萬美元,同比增長 10%。此外,還存在一些難以量化的潛在損失,如品 牌聲譽受損和客户流失等長期負面影響。消費者對於品牌的信任度下降以及負面 形象可能會對企業的未來造成持久影響。因此,組織需有效管理 AI 相關的風險並 強化網絡安全措施。值得注意的是,遵循倫理規範使用 AI 的企業更受消費者青 睞,數據顯示 62%的消費者更加信任在 AI 應用方面透明合規的公司,同時有 53% 的消費者願意為這些符合倫理標準的產品和服務支付更高的價格。 在技術落地過程中,安全漏洞、隱私侵犯與法律合規等挑戰給企業經營帶來了系 統性壓力。我們認為,AI 系統依賴海量數據(維權)訓練與運行,任何安全防護機制的薄 弱環節都可能被惡意攻擊者利用,導致敏感信息泄露或系統功能癱瘓。隱私風險 則源於數據採集、存儲與共享環節的透明度不足,尤其在用户畫像、行為預測等 場景中,過度收集或濫用個人信息可能引發公眾信任危機。法律風險呈現多維度 特徵:一方面,AI 決策的不可解釋性可能違背監管要求,例如金融信貸、醫療診 斷領域的算法歧視問題;另一方面,生成式 AI 的內容生產機制模糊了知識產權邊 界,跨國業務中的合規標準差異更增加了法律衝突可能性。值得注意的是,此類 風險具有顯著的連帶效應,單一技術漏洞可能觸發連鎖反應,例如數據泄露不僅 造成直接經濟損失,還將損害品牌聲譽並招致監管處罰,最終影響企業可持續發 展能力。

當前 AI 風險治理的核心矛盾在於技術迭代速度與管理機制成熟度之間的失衡。 我們認為,從技術視角看,AI 系統的動態學習特性使其風險呈現非線性增長,傳 統靜態防護手段難以應對自適應攻擊。從管理視角看,組織內部普遍存在風險認 知割裂:技術團隊關注算法性能優化,法務部門側重合規審查,而管理層缺乏跨 領域協同治理框架,導致風險管控措施碎片化。這種結構性短板在人才儲備層面 尤為突出,兼具 AI 技術理解與風險管理能力的複合型人才嚴重短缺。 構建有效治理體系需把握三個關鍵維度:首先建立覆蓋數據全生命周期的安全防 護機制,包括加密傳輸、最小化數據採集原則;其次實施算法透明化改造,通過 可解釋性技術提升決策追溯能力;最后搭建動態合規監測系統,實時跟蹤國內外 監管政策演變。然而,治理措施的實施面臨現實阻力,例如增強透明度可能降低 算法效率,強化數據保護或將增加算力成本,這要求企業在技術創新與風險控制 之間尋求動態平衡。

2.1. 技術失控引發企業複合型風險

AI 幻覺的隨機性和隱蔽性使得其對決策的影響具有高度不確定性。這種技術缺陷 導致企業面臨雙重挑戰:一方面,AI 生成內容的「雪球效應」可能污染后續模型 的訓練數據,形成惡性循環;另一方面,自動化系統(如工業控制或供應鏈管理) 若依賴存在幻覺的 AI 輸出,可能觸發操作失誤或安全漏洞。更嚴峻的是,企業通 常缺乏對 AI 輸出的實時驗證能力。儘管有可供選擇的相應解決方案可降低幻覺 率,但實際應用中,企業可能因技術門檻或成本限制等因素難以全面部署這些防 護措施。 此外,AI 幻覺與人類認知偏差的疊加效應進一步加劇風險——決策者可能過度信 任 AI 的「權威性」,忽視對結果的獨立驗證,最終導致羣體性誤判。一方面,AI 輸出的「權威性假象」可能誤導管理層戰略決策;另一方面,模型不可解釋性導 致錯誤溯源困難。典型案例來看,2023 年 Bard 聊天機器人在宣傳視頻中因回答 事實性錯誤,錯誤地聲稱「詹姆斯韋伯望遠鏡被用來拍攝了太陽系外行星的第一 批照片」,加劇了投資人對其正在輸給競爭對手微軟的擔憂,致使母公司 Alphabet 單日市值蒸發超千億美元。企業需建立技術驗證-人工複覈-動態糾錯的複合型容 錯機制,並通過對抗訓練、知識圖譜嵌入等技術手段降低幻覺發生概率。 AI 幻覺的技術不確定性不僅體現在輸出錯誤本身,更源於其難以量化評估和動態 管控的特性。一方面,模型的黑箱機制使企業難以追溯錯誤根源。例如,在金融 投資決策中,AI 可能因訓練數據的時間漂移(data drift)生成過時的市場預測, 但此類問題往往在造成損失后才被察覺。另一方面,幻覺的表現形式具有隱蔽性。 如法律領域的 AI 系統可能生成邏輯自洽卻偏離法條的解釋,導致合規審查失效。 這種不確定性迫使企業陷入兩難:若過度依賴 AI,可能因幻覺引發重大決策失誤; 若過度依賴人工複覈,則喪失技術應用的效率優勢。更嚴峻的是,生成式 AI 的 「創造性輸出」特性使其幻覺與合理推斷的邊界模糊。例如,在供應鏈優化中, AI 可能提出看似創新實則違揹物理規律的物流方案,企業需投入額外成本進行可 行性驗證。

為應對 AI 幻覺的潛在風險,企業被迫增加多維度的防禦性支出。技術層面,需要 持續投入模型微調(Fine-tuning)和實時監控系統,微軟 Azure AI 的幻覺檢測模 塊使運營成本增加 18-25%;人力層面,必須配置跨學科審覈團隊,某金融機構為 AI 信貸審覈系統配備的專家複覈組佔用人效預算的 12%;保險層面,倫敦勞合社 已將 AI 責任險費率上調 30%。更隱蔽的風險在於機會成本損失:企業對 AI 應用 的審慎態度可能導致技術創新滯后,德勤調研顯示 43%的企業因擔憂風險暫緩 AI 項目落地。建議通過聯邦學習提升數據質量、採用混合增強智能(Human-in-theloop)優化成本結構,同時探索風險共擔的 AIaaS(AI as a Service)商業模式。

2.2. 法律與合規的灰色地帶危機

全球 AI 監管框架的滯后性使企業陷入合規困境。歐盟《人工智能法案》雖以風險 分級為基礎構建了全球首個系統性 AI 監管體系,但其對「AI 幻覺」引發的間接 損害歸責標準仍存空白。該法案將高風險 AI 系統納入強制合規範疇,要求提供者 履行數據安全、算法透明等義務,但對技術漏洞導致的非直接物理損害缺乏具體 追責條款。相較而言,我國《生成式人工智能服務管理暫行辦法》雖明確禁止生 成虛假信息,但技術標準、處罰細則及跨部門協同機制尚未完善,尤其在 AI 幻覺 的法律定性上仍以原則性規定為主。 從法律實踐看,AI 幻覺導致的責任主體模糊性已成為全球性難題。傳統侵權責任 法以「行為-損害」因果關係為核心,但 AI 系統的自主性與多主體參與性(開發 者、部署方、用户)嚴重動搖了這一邏輯基礎。歐盟《人工智能法案》雖提出「提 供者-使用者」雙重責任框架,但未明確技術可解釋性標準與舉證責任分配細則, 導致實際糾紛中司法裁量權過度擴張。全球在 AI 治理方面,技術風險與法律適應 性之間存在挑戰,同時也反映出我們在構建更加精細、分級分類的監管體系過程 中,有進一步完善和提升的空間。 在風險分散方面,責任保險機制可成為企業應對 AI 法律風險的重要工具。歐盟 法案已為高風險 AI 系統預留了 36 個月的合規過渡期,期間可通過強制保險制度 分攤潛在賠償壓力。我國可借鑑此類經驗,針對生成式 AI 服務設計專項責任保險 產品,覆蓋因幻覺導致的名譽損害、商業損失等非物理損害場景。同時,需推動 建立行業性風險共擔機制,通過行業協會與保險公司合作,降低中小企業合規成 本。 企業在收集更多數據同時,可能會增加其模型產生「抄襲性輸出」的可能性,從 而提升了潛在的侵權風險。由於大語言模型(LLMs)的內部工作機制具有高度的 複雜性和不透明性,其本質上是一種「黑箱」系統。這意味着,儘管我們可以觀 察到模型的輸入(即訓練數據)和輸出(即生成的文本),但我們無法完全理解兩者之間的具體關聯機制。此外,LLMs 的輸出結果具有動態性和不可預測性,可能 會因模型狀態、輸入提示詞的變化或其他外部因素而產生顯著差異。因此,要準 確判斷模型是否存在抄襲行為,或者其輸出是否包含未經授權的複製內容,是一 個極具挑戰性的問題。抄襲性輸出的普遍性不僅與模型本身的規模有關,還受到 訓練數據的性質、多樣性以及數據預處理方式的影響。例如,訓練數據中如果包 含大量重複或高度相似的內容,模型可能會更傾向於生成與訓練數據相似的輸出, 從而增加抄襲性輸出的可能性。然而,由於 LLMs 的黑箱特性,即使是模型的開 發者或研究人員,也難以完全掌握其內部運作邏輯,尤其是在模型規模龐大且訓 練數據複雜的情況下。

此類「抄襲性輸出」現象本身引發了諸多亟待解決的議題,涉及技術、法律、社 會等多個層面。2023 年 12 月,《紐約時報》起訴了 OpenAI 和微軟,指控其侵犯 版權。《紐約時報》是首家就版權問題起訴人工智能公司的主要美國媒體機構。該 訴訟提交於曼哈頓聯邦地區法院,稱《紐約時報》發表的數百萬篇文章被用來訓 練自動聊天機器人,而這些機器人如今已作為可靠信息來源,與《紐約時報》構 成競爭。訴訟中沒有提出具體賠償金額,但指出被告應為「非法複製和使用《紐 約時報》獨具價值的作品」而承擔「數十億美元的法定和實際損失賠償」。訴狀還 要求銷燬任何使用了《紐約時報》受版權保護材料的聊天機器人模型和訓練數據。 此外,根據 IEEE Spectrum 的研究報道,研究人員利用 MidJourney V6 和 DALL-E 3(OpenAI 旗下的圖像生成模型)生成了與受版權保護的影視、遊戲及動漫作品 中人物形象高度相似的圖像。這一發現表明,MidJourney 和 OpenAI 的訓練數據 中可能包含了受版權保護的材料,同時也揭示了某些生成式人工智能系統存在生 成抄襲性輸出圖像的風險,這可能導致用户面臨潛在的版權侵權訴訟。此外, ARTnews 報道稱,一場集體訴訟的證據材料表明,MidJourney AI 的訓練數據集中 包含了一個由 16,000 名藝術家作品構成的數據庫。這些研究結果進一步凸顯了生 成式人工智能在訓練數據來源及輸出內容合法性方面所面臨的技術與法律挑戰。

隨着 AI 技術在藝術創作等領域的廣泛應用,知識產權歸屬問題對現有法律體系 提出了重大挑戰。2023 年 9 月,美國版權審查委員會裁定,使用 Midjourney 軟件 生成的圖像由於其製作方式而不能獲得版權。然而,相關裁判案例表明,不同國 家在司法實踐上存在差異,普遍面臨如何界定由 AI 生成的作品或發明的知識產 權歸屬這一難題。例如,在英國 Getty Images 訴 Stability AI Ltd 案中,焦點在於侵 權行為發生地及版權侵權的界定;韓國 Stephen Thaler 訴 KIPO 案則探討了 AI 系 統是否能作為專利發明人的問題,並最終基於現行法律規定否定了 AI 作為合法 發明人的可能性;意大利 RAI Radiotelevisione Italiana S.P.A.訴 Biancheri 案強調了 作品的創造性與個人表達的重要性,即便該作品是通過計算機軟件生成的;而在 美國 Entrance to Paradise 案中,法院根據《1976 年版權法》裁定完全由 AI 生成的 作品不受版權保護,因為缺乏人類作者身份。這些案例共同反映了 AI 技術引發的 知識產權歸屬問題的複雜性,不僅考驗着各國法律體系的適應能力,也凸顯出在 全球範圍內協調統一相關法律規定的迫切需求。

2.3. 多主體聲譽面臨系統性衝擊

AI 幻覺對品牌聲譽與客户信任造成系統性衝擊。我們認為,隨着 AI 技術在商業 領域的廣泛應用,模型治理缺陷已成為品牌聲譽與客户信任的主要威脅源。AI 幻覺對企業聲譽的損害呈現出明顯的非線性傳播特徵,不僅直接影響用户體驗,更 通過複雜的社會網絡渠道放大負面效應,形成系統性衝擊。AI 治理平臺使組織能 夠展示對道德和負責任的 AI 實踐的承諾,增強品牌聲譽並與利益相關者建立信 任,而這一點變得日益重要,因為公眾對 AI 技術的看法和信任仍然是一個重大問 題。當前,企業面臨的核心挑戰在於 AI 模型的偏見、透明度不足、數據保護和隱 私問題、模型評估驗證不充分以及安全威脅等多維風險,這些都可能導致客户信 任的急劇下降。AI 幻覺現象已成為侵蝕品牌可信度的隱形殺手。更值得關注的是, 與傳統業務失誤不同,AI 模型的錯誤往往被視為企業價值觀和技術倫理的體現, 一旦發生便難以通過常規公關手段修復。特別是在金融、醫療和公共服務等高敏 感度行業,AI 決策失誤可能在短時間內摧毀企業多年構建的品牌資產,並對整個 行業的信任生態造成連鎖反應。 OpenAI 語音轉錄工具 Whisper 在醫療領域應用的幻覺問題嚴重影響母公司品牌 形象。Whisper 在醫療領域的廣泛應用暴露出嚴重的「幻覺」問題,即生成不準確 的轉錄內容,可能對患者診療安全構成威脅。儘管 Whisper 自 2022 年發佈以來因 其開源、多語言支持和高效性能被廣泛採用,但美聯社 2024 年 10 月的報道中提 到,該工具在轉錄醫療會診時錯誤率極高:工程師分析的 100 多小時錄音中,約 50%的內容存在虛構或錯誤。更令人擔憂的是,包括明尼蘇達州曼卡託診所和洛 杉磯兒童醫院在內的 40 個衛生系統已通過第三方公司 Nabla 部署基於 Whisper 的 工具,累計轉錄了約 700 萬次醫療就診,而 Nabla 以「數據安全」為由刪除了原 始錄音,導致無法覈對 AI 生成文本的準確性。研究顯示,Whisper 的幻覺現象常 出現在音頻停頓、背景噪音或音樂播放時,且即使短而清晰的片段也可能出錯。 儘管 OpenAI 曾警告 Whisper 不適用於高風險決策場景,但醫療機構仍依賴其輸 出,凸顯了 AI 工具在臨牀環境中未經充分驗證即投入使用的風險。

AI 幻覺導致的信任危機呈現出明顯的傳導效應,在數字環境下迅速擴散並侵蝕品 牌價值。我們認為,用户對 AI 錯誤的容忍度顯著低於對人類錯誤的容忍度,這種 不對稱的期望設定了更高的 AI 性能標準。事實性測試中,AI 模型的高幻覺率與 嚴格的用户期望之間的差距,構成了品牌聲譽管理的重大挑戰。值得注意的是, 一旦 AI 系統出現重大錯誤,負面用户體驗會通過社交媒體平臺實現幾何級放大, 形成"聲譽雪崩"效應。尤其值得關注的是,AI 系統的錯誤往往被解讀為有意識的 企業行為而非技術侷限,這種歸因偏差進一步加劇了品牌形象受損的程度。在 B2B 市場環境中,AI 錯誤可能觸發商業合作伙伴的連鎖反應,導致合同終止、商業條 款重新談判或商業關係重估。提高錯誤容忍性可以幫助機器學習模型更好地適應 實際應用場景,提高其實用性和可靠性,這對於維護品牌聲譽至關重要。因此, 企業必須認識到 AI 錯誤的信任危機不僅僅是技術問題,更是需要通過系統性方 法解決的品牌管理挑戰。 大語言模型的幻覺現象正成為個人名譽風險的新型威脅源。我們認為,幻覺現象 的名譽侵害表現形式包括虛構事件、錯誤歸因及捏造人物關係等。例如,模型可 能生成某公眾人物涉嫌犯罪的虛假指控,並引用虛構的法律文件作為佐證,此類 信息若被傳播將直接損害個人聲譽。技術層面,幻覺源於訓練數據偏差、知識邊 界模糊及生成策略缺陷:數據中的噪聲和錯誤信息可能被模型內化為「事實」;模 型在超出知識儲備範圍時傾向於編造答案以維持對話流暢性;而自迴歸生成機制 則可能導致錯誤信息在長文本中累積。社會影響方面,虛假信息的規模化生產與 傳播效率遠超人工闢謠能力,尤其在社交媒體環境中易形成「信息繭房」,加劇名 譽損害的不可逆性。

幻覺現象的技術侷限性在多個實際案例中暴露了其對個人名譽的破壞性。2023 年 4 月,澳大利亞維多利亞省赫本郡市長萊恩·胡德(Brian Hood)遭遇 ChatGPT 嚴 重事實錯誤,將其錯誤標註為 2011 年澳大利亞印鈔公司賄賂案的涉案人員。實際 情況恰恰相反,胡德是該案的舉報人而非參與者。胡德的律師表示,已向 OpenAI 發出律師信,要求對方修改有關其客户的錯誤,否則會考慮提出誹謗訴訟。2023 年 6 月,OpenAI 公司迎來其遭遇的第一場名譽權訴訟。美國喬治亞州電臺主持人 馬克·沃爾特斯(Mark Walters)向佐治亞州的一家高等法院提起訴訟,狀告 OpenAI 公司侵犯其名譽權,起因是槍械刊物《AmmoLand》的主編弗雷德·里爾(Fred Riehl) 在與 ChatGPT 的對話過程中,ChatGPT 聲稱沃爾特斯曾被指控從非法挪用一家基 金會的資金,而沃爾特斯稱其從未受到過此類指控並認為該信息純屬 ChatGPT 捏 造,並向 OpenAI 提起誹謗訴訟。這些案例不僅揭示了 AI 生成內容在事實覈查方 面的重大缺陷,更暴露出錯誤信息對個人聲譽的實質性損害風險,使技術公司面 臨法律追責與技術改進的雙重壓力。 法律責任的模糊性加劇企業和個人的風險敞口。模型生成的內容侵犯他人名譽權 時,服務提供者可能面臨受害者的索賠要求。儘管服務提供者可以主張其技術中 立性,但在現有技術條件下,服務提供者難以完全避免幻覺現象的發生,這使得 責任界定變得複雜且困難。此外,使用者在使用生成式人工智能時,若未能對生 成內容進行充分覈實,也可能因傳播虛假信息而被追究侵權責任。這種風險不僅 限於法律賠償,還可能對公司的聲譽和市場地位造成嚴重影響。在法律層面,現 有的歸責原則如過錯責任原則和無過錯責任原則均難以完全適用於生成式人工智 能侵權的情形。過錯責任原則要求證明服務提供者存在主觀過錯,但在幻覺現象 中,服務提供者往往難以預見和控制生成內容的錯誤性,使得過錯認定變得困難。 而無過錯責任原則雖然能在一定程度上減輕受害者的舉證負擔,但其適用範圍和 具體規則尚不明確,且可能對服務提供者造成過重的責任負擔。

2.4. 倫理風險與社會信任危機

當 AI 幻覺與社會偏見疊加時,可能系統性破壞企業倫理根基。研究表明,AI 系 統可能因訓練數據的歷史偏見或算法缺陷而產生幻覺性輸出,進而強化社會歧視。 更嚴重的是,深度幻覺(如 Deepfake)可能被惡意利用,如某社交媒體平臺的 AI工具被誘導生成政治虛假信息,觸發監管機構的反壟斷調查。此類事件不僅造成 直接經濟損失,更嚴重損害企業作為「技術向善」主體的社會公信力。企業亟需 構建涵蓋倫理委員會、影響評估工具、利益相關方參與機制的三位一體治理架構, 將倫理風險管理深度植入 AI 全生命周期。 文化敏感性與價值觀衝突的品牌風險不容忽視。我們認為,AI 系統生成的內容可 能無意中觸發多元文化背景下的敏感點,引發價值觀衝突並對品牌全球化戰略構 成嚴重阻礙。在跨文化交流日益頻繁的全球市場環境中,AI 系統對不同文化語境、 歷史傳統和道德規範的理解仍然有限,容易產生文化盲點。AI 幻覺產生原因包括 數據偏差、泛化困境、知識固化和意圖誤解,這些因素在跨文化場景中表現得尤 為突出。賓夕法尼亞州立大學和華盛頓大學的研究表明,生成式 AI 模型因訓練數 據的西方中心主義傾向,可能對非西方文化(如印度文化)造成深層誤讀與實質 性社會危害。AI 傾向於以「他者視角」呈現非西方文化,例如過度強調傳統節日 的色彩元素或突出某些亞文化,導致異化與刻板印象。這種誤讀不僅強化文化挪 用風險,還可能影響少數羣體的社會認同。當 AI 系統錯誤使用宗教符號、曲解歷 史事件或忽視地區特殊禁忌時,引發的不僅是簡單的用户不滿,更可能是深層次 的品牌抵制運動,甚至演變為外交爭端和市場準入障礙。值得注意的是,這種文 化衝突往往具有不可預測性和高度敏感性,傳統的危機公關策略可能難以應對。 AI 治理平臺能夠確保 AI 系統與組織價值觀和社會期望保持一致,這一點在跨文 化環境中尤為重要。

與技術錯誤不同,價值觀衝突所造成的品牌損害往往具有長期性和結構性特徵, 難以通過短期修復措施消除。特別是在社交媒體平臺算法的放大效應下,價值觀 衝突事件可能迅速升級為全球性輿論風暴,進而轉化為實質性的品牌資產損失和 市場份額下滑。典型案例中,OpenAI 的 Sora 視頻生成工具存在性別、種族和能 力偏見,可能加劇社會刻板印象。《連線》雜誌的調查發現,Sora 在生成與職業相 關的視頻時,存在明顯的性別偏見。例如,在生成「飛行員」的視頻時,所有結 果均為男性;而在生成「空乘人員」的視頻時,所有結果均為女性。類似地,大 學教授、首席執行官和政治領袖多被描繪為男性,而託兒所工作人員、護士和接 待員則多為女性。此外,Sora 在生成「微笑的人」的視頻時,90%的結果為女性, 反映了社會對不同性別情緒表達的期望差異。OpenAI 發言人 Leah Anise 表示,偏 見是一個全行業的問題,OpenAI 有專門研究和減少模型中偏見和其他風險的安全 團隊,並正在研究如何更改其訓練數據以生成偏見較少的視頻內容。由此可見, 企業必須將文化敏感性納入 AI 治理的核心維度,建立多元文化審覈機制,確保 AI 系統在全球化環境中的適應性。

3. 完善 AI 治理是實現人工智能可持續發展的必然選擇

3.1. 監管制度協同共治,築牢智能治理防線

近年來,中國通過密集出臺專項法律與政策文件,初步構建起覆蓋人工智能全生 命周期的治理法律框架。2017 年實施的《網絡安全法》確立了網絡運行安全與數 據分類分級保護制度,要求網絡運營者採取技術措施防範數據泄露與非法使用; 2021 年頒佈的《數據安全法》和《個人信息保護法》進一步強化數據主權原則, 明確數據處理者的安全保護義務,並建立數據跨境流動審查機制。2023 年發佈的 《生成式人工智能服務管理暫行辦法》則針對新興技術特點,提出分類分級監管 要求,明確生成式 AI 服務提供者需履行內容審覈、標識標註、用户權益保護等義 務。此外,《新一代人工智能發展規劃》提出「以人為本、安全可控」的治理原則, 要求在技術研發、產品應用中嵌入倫理審查機制,而《關於加強科技倫理治理的 意見》則從國家層面統籌科技倫理體系建設,強調對生命科學、人工智能等領域 的倫理風險前瞻性研判。這一系列立法行動不僅填補了國內 AI 治理的法律空白, 也為全球人工智能治理貢獻了中國方案。 全鏈條監管機制構建技術風險防火牆。中國人工智能治理體系注重全流程風險防 控,覆蓋技術研發、產品開發、數據流通、應用服務等關鍵環節。在技術研發端, 《互聯網信息服務算法推薦管理規定》要求算法服務提供者建立安全評估與監測 機制,防範算法歧視與數據濫用;《新一代人工智能倫理規範》提出「算法透明可 解釋」原則,推動研發主體對算法決策邏輯進行披露。在數據流通環節,《工業和 信息化領域數據安全管理辦法》建立工業數據分類分級保護制度,明確重要數據 境內存儲與跨境傳輸安全評估要求;《數據安全法》配套的《數據出境安全評估辦 法》則對跨境數據流動實施分類分級管理。在應用服務端,《生成式人工智能服務 管理暫行辦法》要求服務提供者對生成內容添加顯隱雙標識,並配合監管部門開 展內容覈查;《互聯網信息服務深度合成管理規定》則針對虛擬場景生成、數字人 合成等場景,建立傳播溯源機制。通過多部門協同監管,中國正形成覆蓋技術研 發、數據治理、應用落地的全鏈條治理閉環,有效遏制 AI 技術濫用風險。

在推動人工智能創新的同時,始終將倫理治理作為核心議題,塑造負責任 AI 生 態。2021 年發佈的《新一代人工智能倫理規範》確立「增進人類福祉、促進公平 公正、保護隱私安全」等六項基本原則,要求 AI 研發與應用主體主動開展倫理審 查,並建立科技倫理(審查)委員會。《關於加強科技倫理治理的意見》進一步提 出「敏捷治理」理念,強調對新興技術風險的動態監測與響應,要求高校、科研 機構和企業設立倫理審查機制,將倫理培訓納入科技人員職業素養體系。在國際 協作層面,《新一代人工智能發展規劃》明確提出參與全球 AI 治理規則制定,推 動建立多邊、民主、透明的國際治理體系;2023 年簽署的《全球人工智能治理倡 議》更是倡導「以人為本、智能向善」的全球共識。此外,中國司法機關積極探 索 AI 司法應用邊界,最高人民法院發佈的《關於規範和加強人工智能司法應用的 意見》明確要求 AI 輔助裁判結果不得替代司法判斷,確保技術應用始終服務於司 法公正。通過倫理規範約束與全球治理參與,中國正推動人工智能向「可信、可 靠、可控」的方向發展。

3.2. 技術迭代與治理框架協同,平衡創新與風險控制

應對 AI 幻覺需構建「技術-管理-制度」三維防禦體系。技術層面,可通過檢索增 強生成(RAG)框架將模型與企業內部知識庫實時聯動,減少開放式生成導致的 幻覺,同時採用對抗訓練和置信度校準提升邏輯一致性。管理層面,需建立人機 協同決策流程,例如在醫療診斷中設置醫生對 AI 建議的強制複覈節點,並在金融 領域引入動態風險閾值機制,當模型輸出偏離歷史基準時觸發人工干預。制度層 面,應參考 NIST 人工智能風險管理框架,制定針對幻覺的評估標準與合規要求, 如強制披露模型的幻覺率指標及適用場景限制。此外,企業需探索「可解釋 AI」 (XAI)工具,通過可視化決策路徑增強技術透明度,輔助管理者識別潛在幻覺風 險。唯有通過多維度的綜合治理,方能在釋放 AI 效能的同時,管控其技術不確定 性衍生的決策危機。 語義熵方法有效量化大語言模型的不確定性,提升幻覺檢測能力。牛津大學研究 團隊在 2023 年 6 月發表於《Nature》的論文中提出了一種基於語義熵(Semantic Entropy)的大語言模型幻覺檢測方法。該方法通過計算模型對同一提示詞生成的 多組回覆的語義分佈差異,量化輸出的不確定性,從而識別潛在的錯誤或虛構內 容。語義熵本質上是信息熵在自然語言生成任務中的擴展,其核心在於衡量模型 在相同輸入下生成不同語義輸出的概率分佈離散程度。實驗表明,該方法在多個 基準測試中顯著優於傳統基於詞級概率的檢測手段,尤其在開放域問答任務中, 能有效降低幻覺率約 30%。研究建議,該技術可集成至 AI 系統的置信度評估模 塊,為用户提供實時風險提示,並引導模型採取檢索增強生成(RAG)等循證策 略以提升輸出可靠性。

3.3. 流程合規培育可持續模式,構建 AI 創作合規生態

重構訓練數據基礎,建立合規化數據治理體系。我們認為,生成式 AI 系統產生抄 襲性輸出的核心矛盾在於其訓練數據中未經授權的版權材料積累。研究表明,當 前主流圖像生成模型普遍存在對影視片段、動漫形象等受保護內容的隱性學習現 象,這種技術特性與現行版權制度的衝突亟待系統性解決。從技術路徑看,徹底 清除訓練數據中的侵權內容並構建合規數據集是根本之策。然而,神經網絡分佈 式表徵的特性決定了傳統"事后刪除"模式的不可行性——任何單一侵權樣本的移 除都需要對整個模型進行代價高昂的重訓練。因此,建立前置化的數據治理框架 成為關鍵。這要求 AI 企業在數據採集階段即建立版權過濾機制,通過區塊鏈存 證、數字水印等技術實現素材權屬追溯,並優先採用已獲授權的公開數據庫或原 創內容庫。同時,需建立動態更新的知識圖譜,將版權保護期內的作品自動排除 在訓練集之外。此外,採用聯邦學習架構可在保障數據隱私的前提下實現多源合 規數據的協同訓練,這一技術方案有望降低大規模數據重構的技術門檻。 開發多模態侵權檢測系統,強化生成過程控制。我們認為,現有生成式 AI 系統的 內容審查機制呈現顯著滯后性,難以應對複雜場景下的侵權風險。針對這一問題, 需構建貫穿生成全流程的多維度監測體系。在輸入端,開發語義-視覺聯合編碼器, 通過對比學習識別用户指令與版權作品的潛在關聯,對包含敏感元素的查詢進行 分級攔截。例如,當檢測到"超現實主義風格的城市景觀"等模糊指令時,系統應自 動觸發深度特徵分析,評估其與已知建築攝影作品的相似度閾值。在生成階段, 引入對抗生成網絡構建實時侵權檢測模塊,利用預訓練版權分類器計算生成圖像 與原始素材的特徵差異值,當余弦相似度超過預設閾值時自動啟動修正程序。未 來研究方向應着重提升細粒度鑑別能力,區分合理借鑑與實質性複製,並建立動 態更新的黑白名單庫以適應創作趨勢變化。此外,可探索引入區塊鏈智能合約技 術,對生成內容進行數字指紋認證,確保版權溯源的可審計性。

構建透明化創作生態,完善責任分配機制。當前生成式 AI 系統的"黑箱"特性導致 侵權責任認定困難,亟需建立透明化的創作追溯體系。歐盟《人工智能法案》提 出的"合格評定機構"制度為此提供了制度範本,要求 AI 系統留存完整的訓練日誌 與生成軌跡記錄。具體而言,模型開發者需公開數據清洗過程的抽樣審計報告, 披露版權材料在訓練集中的分佈比例及脱敏處理方法。在服務端,應強制嵌入生 成內容元數據標註功能,自動附加版權風險等級標識及建議用途説明。從法律層 面看,需重新界定 AI 系統的主體責任邊界,區分技術開發者、部署者與使用者在 不同場景下的過錯責任。美國版權局 2025 年 1 月發佈了最新版的 AI 生成作品版 權新規,已明確排除完全通過指令生成的 AI 創作作品版權保護,這一司法動向提 示行業需加快建立版權聲明登記制度,鼓勵創作者對訓練素材進行自願性版權標 記。通過技術透明化與制度彈性化的雙重路徑,方可構建可持續發展的 AI 創作生 態。 重塑全球版權治理框架,平衡創新激勵與權利保護。生成式 AI 引發的版權危機本 質上是技術革命與既有法律體系的結構性矛盾。現行《伯爾尼公約》確立的國民 待遇原則與 AI 的無國界特性存在根本衝突,亟需國際社會協調行動重構規則體 系。世界知識產權組織(WIPO)近年來積極探討人工智能與知識產權的關係,建 議增設特殊條款,明確 AI 生成內容不適用傳統版權保護,同時建立強制許可制 度,要求 AI 企業向版權集體管理組織繳納合理費用。在區域立法層面,2016 年 歐洲議會法律事務委員提出的"電子人格(Electronic persons)"概念頗具啟示意義, 可將 AI 視為獨立的法律主體承擔部分侵權責任,但其實施需配套開發責任評估 算法。從產業實踐看,2024 年 10 月,Adobe 推出「Content Authenticity」應用, 用作充當現有內容憑證平臺的集中樞紐,還允許用户進行偏好設置以保護他們的 工作不被生成式 AI 模型使用或用於訓練生成式 AI 模型,實現創作者授權收益與 AI 訓練數據獲取的良性互動。最終,需在技術創新激勵與權利保護之間尋求動態 平衡,既避免因過度規制扼殺技術進步,亦防止資本力量對創作生態的野蠻侵蝕。

(本文僅供參考,不代表我們的任何投資建議。如需使用相關信息,請參閱報告原文。)

風險及免責提示:以上內容僅代表作者的個人立場和觀點,不代表華盛的任何立場,華盛亦無法證實上述內容的真實性、準確性和原創性。投資者在做出任何投資決定前,應結合自身情況,考慮投資產品的風險。必要時,請諮詢專業投資顧問的意見。華盛不提供任何投資建議,對此亦不做任何承諾和保證。