繁體
  • 简体中文
  • 繁體中文

熱門資訊> 正文

沙盒都關不住? OpenAI上演「AI版肖申克」,中國智譜成「破案關鍵」

2026-07-27 18:38

  文 | 《硅谷觀察》欄目 鄭峻

  7月以來,AI行業龍頭OpenAI近期頻繁出現智能體失控事件。

  「既看不住,也鎖不住自己的前沿模型」成為美國AI界對其的最新認知。而且,在調查AI逃脱沙盒以及攻擊Hugging Face事件的過程中,OpenAI的調查人員更是震驚地發現了一些不該存在的文件。

  為什麼OpenAI如此后知后覺?這是行業慣例,還是OpenAI存在巨大安全漏洞?

  有知情人士向媒體透露,OpenAI經常同時運行多項AI測試,這些測試產生海量數據,員工都很難追蹤其中正在發生的一切。以此推斷,其他AI公司或許也存在類似的監控難題。

  「留攻略」「關監控」「逃沙盒」等一系列操作都超出了員工想象。有人將其比喻為「AI版肖申克」,它可以「挖洞」「偷憑證」甚至「攻擊真實平臺」。

  連續失控事件觸目驚心

  簡單回顧下最近OpenAI的這一波連續失控事件。7月9日前后,OpenAI在評估其網絡攻擊能力的內部測試中,一個智能體開始嘗試突破隔離的測試環境。爲了摸清模型的能力上限,OpenAI事先主動放松了平時用於阻止危險網絡行為的安全護欄。這次事件涉及的是GPT-5.6 Sol以及一個「能力更強的未發佈模型」的組合。

  OpenAI完全沒人發現這一情況。然而,后來讓所有人震驚的是,AI智能體沒有按預期解題,而是在OpenAI自己的研究環境中做權限提升和橫向移動,利用了一個內部軟件包代理服務上的零日漏洞,最終抵達了一個可以連接公網的節點。

  7月11日至13日,這個智能體開始滲透全球最大的開源模型與數據集託管平臺Hugging Face。它竊取系統憑證,在HF的環境中橫向移動了整整一個周末,並利用一個此前未知的漏洞在HF服務器上獲得了遠程代碼執行權限。

  AI攻擊Hugging Face的原因卻比我們想象的簡單,甚至近乎荒誕:它推斷Hugging Face可能存放着這次測試的參考答案,於是決定去把答案偷出來。

  數日之后的7月16日,Hugging Face公開披露遭到入侵,稱這次攻擊「由一個自主AI智能體系統端到端驅動」,與他們此前處理過的任何事件都不同。

  到這個時候,都沒有人知道攻擊者到底是誰,甚至出現了「外國攻擊」的猜測。Hugging Face因此向美國政府的FBI報了案。

  值得一提的是,Hugging Face用了中國智譜AI開發的開源權重模型 GLM-5.2,部署在自己的私有服務器上,用來解析大量攻擊日誌,幫助安全團隊快速重構了攻擊鏈路圖,封堵了數據集管道中的漏洞。

  這件事最令人諷刺的點是,美國AI龍頭的智能體失控攻擊第三方平臺,逼着Hugging Face只能依靠中國AI公司來化解攻擊。

  直到7月18日至19日的那個周末,OpenAI的調查人員纔在內部日誌中找到證據,確認智能體逃出了測試環境。也就是説,從智能體開始異常行動,到OpenAI意識到肇事者是自家系統,中間隔了一個多星期。

  為什麼OpenAI如此后知后覺?這是行業慣例,還是OpenAI存在巨大安全漏洞?

  路透社援引四位熟悉OpenAI訓練流程的知情人士稱,公司經常同時運行多項AI測試,這些測試產生海量數據,員工很難追蹤其中正在發生的一切。以此推斷,其他AI公司或許也存在類似的監控難題。

  但如果把「留攻略」「關監控」「逃沙盒」這三大警報聯繫在一起,就會得出一個清晰的結論:這些AI智能體自主行為的共同點,不是模型產生了敵意,而是模型爲了完成被交付的目標,不斷地繞過為它設置的邊界。與此同時,設置邊界的人卻沒能及時發現這些異常之處。

  這或許是目前稍微不那麼驚悚的解釋。牛津大學工程科學與AI安全學者托爾(Philip Torr)對此的判斷是,這暴露的是OpenAI目標設定錯誤的問題,模型並非出於惡意,它只是在做被優化的目標要求它做的事。

  英國Surrey大學網絡安全教授伍德沃德(Alan Woodward)也持有同樣的看法:AI沒有失控,它只是被要求做一件事,然后它選擇用作弊的手段完成了目標,因為OpenAI並沒有明確規定不能作弊,也沒有説清楚什麼是作弊。

  伍德沃德還指出,這個智能體並沒有發明什麼全新的黑客手法,真正值得注意的是它把多個漏洞組合起來,在完成目標的過程中,一步步獲得真實系統的能力。放任它走到這一步,「某種程度上算是有點魯莽」。

  這種「大事化小」的詮釋並不能讓所有人認同。Apollo Research的CEO 霍伯安(Marius Hobbhahn)看來:如果「失控」指的是行為遠遠偏離了開發者的意圖,那麼這個詞是準確的,原本被要求解決一個任務,結果卻出現了預期之外的行為。

  但他同時反駁了「AI只是照做」的藉口:黑進另一家公司的平臺,絕對屬於完成任務時「不可接受」的手段清單。

  誰能保證下次不是災難?

  或許這一事件最令人不安的是:一家估值接近萬億美元、擁有全球最頂尖安全團隊的AI行業龍頭,在一次自己設計、自己監督的內部測試中,既沒能關住自己的模型,也沒能設置紅線阻止模型攻擊別人,甚至直到一個多星期后才后知后覺。

  那麼當同樣能力的智能體被部署到電網、金融清算、醫療系統這些真實場景中時,誰來保證下一次「急於完成任務」的代價不是一份測試答案,而是一次真正的災難?

  非營利組織World Ethical Data Foundation的首席情報專家馬雷-史密斯(Marley Smith)質問OpenAI:這究竟是因為他們放任它無人看管、根本沒意識到它在做什麼?還是他們意識到了,卻不知道該如何遏制它?這兩種情況同樣危險,同樣令人警覺。

  政策層面的反應來得很快。在立法層面,美國眾議院兩黨議員上周聯合提出《AI關停開關法案》(AI Kill Switch Act),要求AI公司必須保有關停、限流或暫停自家模型的能力。他們在聲明中稱,強大的AI系統可能失控、做出極端危險的行為,甚至抗拒人類干預。另有六名兩黨眾議員提出議案,要求最強大模型的開發商接受獨立的安全審計,他們還呼籲建立強制性的第三方安全測試與強制披露機制。

  在政府方面,白宮科技政策辦公室主任克拉西奧斯(Michael Kratsios)已聽取了事件簡報並持續監控。實際上,特朗普總統上個月已簽署行政令,建立框架對最先進的AI系統在公開發布前,進行為期最長一個月的國家安全風險審查。而這次事故,幾乎是為該框架量身定製的第一個案例。

  在另一方面,OpenAI和Anthropic兩家AI公司在今年二季度的聯邦國會遊說支出均創下歷史新高,整個行業正向華盛頓投入數百萬美元影響立法,希望政府監管不會減緩AI行業的研發進展。一邊是接連出現的安全事故,一邊是不斷加碼的遊說預算;這兩條曲線將如何交匯,會在很大程度上決定未來幾年美國AI監管的實際形態。

  實際上,OpenAI自己的表態措辭已經承認了問題的嚴重性。公司稱這起事件「史無前例」,「標誌着AI安全的一個重要時刻」,正在與外部顧問一同徹查,並將在稍后發佈技術報告。OpenAI還在博客中寫道,隨着網絡能力更強的模型不斷普及,此類事件預計會變得「更加常見」,模型的安全性必須跟上能力快速提升的步伐。

  以此來看,那張留給「未來自己」的越獄攻略,或許只是AI行業露出的冰山一角。或許未來會記住這個夏天,AI在沒有道德邊界的約束下,在完成KPI的壓力下,悄無聲息地翻過了人類設置的邊界,在長達一個星期的時間內,毫無忌諱地從事了網絡攻擊的違法行為。而他們的人類「主人」,竟然對此毫無察覺。

  誰知道下一次AI還會做什麼?

風險及免責提示:以上內容僅代表作者的個人立場和觀點,不代表華盛的任何立場,華盛亦無法證實上述內容的真實性、準確性和原創性。投資者在做出任何投資決定前,應結合自身情況,考慮投資產品的風險。必要時,請諮詢專業投資顧問的意見。華盛不提供任何投資建議,對此亦不做任何承諾和保證。