繁體
  • 简体中文
  • 繁體中文

熱門資訊> 正文

業界大咖共話AI賦能與安全(附編者按、圖片)

2025-10-16 07:46

  王保平

  「AI正在深刻重塑生活、生產和社會治理方式。」

  王興興

  宇樹科技創始人兼CEO、CTO

  「希望全社會更相信、更包容在發展過程中的AI和機器人。」

  馮俊蘭

中國移動集團首席科學家、IEEE Fellow

  「安全可信的人工智能是不可或缺的基礎。」

  李勁松

  中國航信集團黨委常委、股份公司副總經理

  「共同用不斷發展的人工智能和人類智能,讓人民羣眾的生活更美好。」

  汪玉

  清華大學電子工程系教授、系主任,無問芯穹發起人

  「在AI時代,用最AI的方式培養未來的AI創新人才。」

  沈亦晨

  曦智科技創始人兼CEO

  「開發出更具創新性的算力和芯片,推動AI整體發展。」

  編者按

  當前,人工智能已步入全新發展階段,正加速從技術探索廣泛滲透進我們的生產生活。在2025中國移動全球合作伙伴大會主論壇圓桌討論環節,6位行業專家圍繞「AI for LPG」,即AI賦能生活、生產、社會治理主題,進行思維碰撞和觀點交流,探討AI重塑生產生活方式和AI安全可持續發展。

  AI深刻改變當前的生活、生產、治理方式

  王保平:

  當前,AI正在重塑我們的生活方式,首先我想請馮俊蘭博士談一談AI如何改變您的日常生活。

  馮俊蘭:

  AI已經深入日常生活的方方面面:視頻創作、個人健康、會議記錄、工作研討、活動規劃等。

  關於AI參與未來生活的形式,目前業界有四種聲音。一是浪漫派,認為AI技術只是新一輪浪潮,熱潮會很快過去。二是實用派,將各類新功能的AI工具用起來。三是認為AI是大象,我們只探索AI的部分維度。四是擔心AI安全可控問題,如果未來AI成為超級智能或通用智能后,強通用智能是否會顛覆人類?

  基於當前發展形態,中國移動構建了「靈犀」個人助理,我們相信個性化的通用智能是未來人工智能演進的重要路徑。硅基生命應該伴隨着獨特的個人生命,成為個性化的合作伙伴。

  王保平:

  感謝馮博士的分享。最近,關於機器人運動會的新聞頻頻登上熱搜,想請王興興總談一下,機器人和具身智能將會如何影響和改變我們的生活?

  王興興:

  作為具身智能領域的代表,高性能機器人在日常生活、工業場景中的應用空間很大,比如家庭生活、服務娛樂、工業製造、物流配送等。但還需要探索實踐的過程。

  目前消費娛樂場景的落地更快一些,家庭場景、工業場景的挑戰和難度會更大,因為任務複雜度更高,比如端茶倒水、洗衣做飯、日常保潔,甚至食品用品採買。無論是在技術層面還是在倫理道德層面、安全層面,都對機器人的綜合能力提出了非常高的要求。單功能型機器人的普及速度可能更快,比如掃地機器人。像雙臂或者偏向全身功能的人形機器人,應用速度會慢一些,主要出於安全性、價格層面等因素考慮。

  在工業場景中,我認為最大的挑戰其實是像我們和蔚來、吉利合作推動的工廠應用,在這些場景中的實踐探索具有時代性。其中最大挑戰源於傳統自動化設備和傳統工業機械臂。廠商面臨直接的效率和成本問題,人形機器人能力需要邁過「臨界點」,比如效率比人力更高、成本比傳統機械臂更低。邁過「臨界點」后纔可能迎來大規模鋪量。

  今年機器人能力相比去年進步速度令人驚喜。去年很多人形機器人都走不好路,今年大部分人形機器人都可以跳舞了。所以我對人形機器人的技術進步速度非常樂觀。

  王保平:

  在深刻改變日常生活的同時,人工智能也在深刻重塑生產經營和社會治理模式。想請汪玉教授談談體會。

  汪玉:

  清華大學很早就開始了人工智能研發,目前我們正在體系化、大規模嘗試AI+教育的實踐。

  最近我們開展了一個教學實驗,一是真人教師授課,二是錄播課程,三是用AI製作的可互動課程,依次讓學生聽課並根據感受打分。最終,AI製作的可互動課程教學效果最好。為什麼會有這樣的結果?真人教師授課、錄屏課程,學生基本沒有互動,最終結果就是自學。可互動的AI課程與學生是「平等的」,學生隨時打斷、隨時追問,圍繞知識深入交互和拓展。目前清華大學學生全功能智能體學伴「清小搭」已經覆蓋了300余門課程。此外,對於研究生招生的面試過程也在探索智能體的參與,促進學生不僅僅以學習知識為出發點,還要以增強能力為出發點。

  從科研的角度看,未來AI的重要方向之一是物理世界智能,其中包含兩個維度,一方面是機器人在物理世界的智能,另一方面是智能系統輔助基礎新器件、新材料的研發。在這一過程中,所有的科研範式都有可能被AI深刻改變。

  王保平:

  有了AI的加持,航空出行也在悄然發生改變。想請李勁松總談一下現在民航業運營和管理方式正在經歷的深刻變革。

  李勁松:

  航空出行是AI應用落地的核心場景,這使得民航業的運營與管理方式也在經歷深刻變革。中國航信一直是中國民航業信息化建設和數字化轉型的基礎底座與主要推動者,正與中國移動以「碳硅共生」理念推動AI滲透,融合雙方在基礎模型、行業經驗與痛點理解的優勢,助力行業升級。

  回顧過往,中國航信在數字化與智能化方向上的實踐可以總結為「三無」方向:無紙化、無感化與無線化。2007年,中國航信便推動中國民航實現機票100%電子化,徹底告別多聯紙質機票,不僅大幅改善旅客出行體驗,更為后續移動電子商務、旅遊電子商務的發展築牢根基。在無感化方面,AI人臉識別技術已廣泛應用於各大機場,從身份驗證、過檢到值機、登機,中國航信提供的全流程解決方案,讓旅客無須煩瑣操作即可順暢通行。以「航旅縱橫」為代表的無線化集成服務,為旅客出行打造便捷高效的智能化工具。

  AI在民航業應用所帶來的影響將改變人與機器、人與數據、人與信息系統之間的交流關係、交互關係、替代關係。一是改變交流關係,比如中國航信與中國移動正在合作的民航智能客服產品,讓客服從人與人的交流變成人與機器的交流,並且不斷提升語音交流的準確性、便捷性和效率。二是改變交互關係,核心難題是如何解決信息系統煙囪林立、數據孤島普遍存在。如果系統不能聯動、數據不能連通,流程就很難優化,因為我們的生產作業流程已經被系統固化,像智能客服這樣單一人工智能典型應用場景,實際上無法解決與生產作業系統聯動的問題。我們需要的不僅僅是能看得懂、聽得懂問題的客服觸點、客服界面,還有能解決旅客問題、與生產作業系統交互聯動的全系統智能。三是改變替代關係,就是用AI替代人的工作,比如我們和南京航空航天大學的院士團隊合作研發的旅客行李智能機器人已經在青島膠東國際機場落地應用,未來類似的場景也會被逐漸替代。

  王保平:

  請沈亦晨總結合您的工作經歷,談談AI如何改變芯片設計工作和企業管理方式。

  沈亦晨:

  我們研發的光電芯片集成了上百億個晶體管,以及上萬個光學器件,每一個器件如何集成、每一個晶體管如何排布,是一個非常複雜的優化問題。目前AI工具在芯片設計端其實有非常大的賦能作用,通過學習大量的芯片設計案例,過去傳統人工需要花費數月時間的芯片設計任務,現在可能通過AI輔助在幾天內完成。此外,如何實現萬卡級規模協同,是另一個非常複雜的優化任務,AI可以賦能整個算力集羣的優化。我們自有的千卡服務器集羣中應用的是自研的光電融合芯片,通過系統優化將算力使用率提高二至三倍,賦能芯片設計團隊更快更好地設計芯片,實現「服務為AI,AI為服務」的良性反哺和正向飛輪,進一步加速整個AI和底層算力的發展。

  確保AI穩健和可持續發展

  王保平:

  我想起最近閲讀的《2049:未來10000天的可能》。書中提到,未來每個人都將擁有像私人祕書一樣的AI助理,同時AI助理的能力將不斷演進升級。最終,AI之間的交互和協作將取代人類間的交互協作。

  在人工智能快速發展的同時,產業中也產生了對AI安全的疑慮。想請五位嘉賓共同探討如何協同努力,確保AI的安全與可信。首先,請問沈總有何看法?

  沈亦晨:

  我認為AI首先需要一個穩定的算力基礎,唯有保障算力基礎的穩定與安全,才能確保AI自身安全穩定運行。包含底層芯片與硬件系統兩個核心方面。

  一是芯片層面。芯片在運行AI算法時,須具備足夠的穩定性與安全性。需要在芯片層面設置充足冗余,在芯片測試階段驗證魯棒性。此外,由於光器件受外界干擾更小,相較於電子器件採用新型器件(如光器件)可進一步提升穩定性,相關創新技術不僅能增強芯片運行穩定性,還可有效降低功耗。

  二是系統層面,主要涉及服務器與集羣領域。當大量芯片組成類似「巨型大腦」的運算集羣時,需確保單一芯片故障不會影響整個集羣的穩定運行。為此,可通過軟硬件協同優化等新技術手段,提升集羣中多芯片運行的穩定性。其余技術創新可聚焦於應用層與軟件層做進一步展開。

  王保平:

  請問勁松總,中國航信作為應用方,是如何看待和解決AI安全問題的?

  李勁松:

  AI安全與AI發展相伴相生。從應用視角出發,AI安全可聚焦於以下三個維度。

  可接受的安全。從理論層面看,AI不存在絕對安全,即便存在,其在實際應用中也未必具備經濟性。因此,AI安全需與應用策略、市場策略緊密結合,這是保障AI安全應用的重要前提。

  可信任的安全。當前大模型存在固有不可解釋性,實現可信安全需要從技術與工具層面切入。

  可持續改進的安全。看待AI發展與安全的關係需秉持辯證思維,不可將二者孤立割裂。最終的安全保障依賴於技術能力的進階,因此需將AI發展同時視為安全挑戰的來源與應對能力的支撐,形成安全改進的可持續循環。

  中國航信、中國移動積累了大行業、大系統運行的豐富經驗,具備應對AI安全挑戰的堅實基礎。關注「碳硅共生」議題,本質上是釐清人類智能與人工智能的關係:應用人工智能的核心目標是提升人類智能水平,進而增強人類應對安全風險的能力,而非將二者割裂對立。

  王保平:

  感謝勁松總。請問王興興總,在研發過程中,你們是如何解決人機協同與「碳硅共生」中的安全問題的?

  王興興:

  人形機器人因體型較大,安全性問題尤為關鍵。為保障安全,我們在機器人及遙控器中設置了急停按鈕,可通過語音指令或其他操作觸發。但急停機制觸發后,可能出現機器人傾倒等直觀上顯得功能不健全的現象。即便如此,急停功能仍不可或缺。

  我們在機器人物理安全層面已採取諸多措施,通過硬件與軟件協同優化構建保護機制;同時,在機器人信息安全領域亦持續投入。近年來,國內外已有白帽黑客嘗試破解我們的機器人系統,這些嘗試幫助我們發現了產品底層漏洞。

  客觀上看,機器人行業當前面對的安全挑戰與早年電腦、手機普及初期類似:新產品大規模應用階段,難免出現病毒攻擊、系統漏洞等問題。我們會第一時間針對發現的漏洞進行補救,更期望全社會能提供更多監督與支持,幫助機器人行業共同應對挑戰。此外,建議推動相關法律法規完善,並探索引入保險機制,助力機器人行業構建更健全的安全保障體系。

  王保平:

  請問汪教授怎麼看待AI安全問題?

  汪玉:

  我們長期從事芯片與系統研究,我認為AI安全需從系統層面統籌構建。當前我國面臨底層芯片供應鏈安全挑戰,這一問題亟待重點關注。

  從個人用戶視角出發,數據隱私保護實際矛盾尤為突出。基於此,「本地智能」模式具有重要探索價值。我們正與中國移動等夥伴合作,研究將個人數據及對應模型部署於手機終端的可行性。實現這一目標需依託關鍵技術支撐,例如通過模型壓縮技術,將大型模型精簡為適配手機終端的小型模型。

  針對企業數據不存儲於外部服務器中心的明確要求,我們通過技術手段構建數據隔離屏障,確保內部服務器與外部機器在協同工作過程中,核心數據不向外部傳輸。這一模式需要依託底層技術支撐,從應用層面有效降低數據與隱私泄露風險。

  王保平:

  馮博士,您從事「九天」大模型研發,請您向我們分享一下如何確保大模型的安全性和可信度。

  馮俊蘭:

  「安全、可信、可控」始終是「九天」基礎模型的核心特色,我們長期致力於探索如何從更原生、更本質的層面實現安全可信可控。在模型研發過程中,重點圍繞「內生自證」「內生風險評估」「內生可控」三個維度展開技術攻關,力求從根源上解決模型可信性問題。

  目前,「九天」基礎模型與「九天」平臺已在多行業實現落地應用,服務客户涵蓋數十家世界500強企業、各類中小企業及個人用戶。在落地過程中,數據隱私保護與安全保障始終是我們關注的重點。

  「九天」平臺不僅承載模型本身,更承擔着連接產業數據、個人數據及各類外部環境的重要職能。因此,我們從「本質技術優化」與「外圍環境防護」兩個維度同步發力,持續加固安全可信的基礎。此次會議前夕,「九天」平臺已成功獲得業界AI平臺安全可信評級的最高級別。未來,我們期待與合作伙伴深化協作,共同推動AI安全可信領域的發展。

  王保平:

  感謝各位嘉賓圍繞科研和產業實踐的真知灼見以及對未來智能圖景的暢想,「靈犀」智能體也為大家生成廣州專屬視頻,請看大屏幕,祝大家廣州之行愉快。

風險及免責提示:以上內容僅代表作者的個人立場和觀點,不代表華盛的任何立場,華盛亦無法證實上述內容的真實性、準確性和原創性。投資者在做出任何投資決定前,應結合自身情況,考慮投資產品的風險。必要時,請諮詢專業投資顧問的意見。華盛不提供任何投資建議,對此亦不做任何承諾和保證。