<li id="44aaa"><tt id="44aaa"></tt></li>
<li id="44aaa"></li>
  • <li id="44aaa"></li><li id="44aaa"></li> <li id="44aaa"></li>
  • 分享到:
    鏈接已復制

    LANGUAGES

    新聞

    新聞直播 要聞 國際 軍事 政協 政務 圖片 視頻

    財經

    財經 金融 證券 汽車 科技 消費 能源 地產 農業

    觀點

    觀點 理論 智庫 中國3分鐘 中國訪談 中國網評 中國關鍵詞

    文化

    文化 文創 藝術 時尚 旅游 鐵路 悅讀 民藏 中醫 中國瓷

    國情

    國情 助殘 一帶一路 海洋 草原 灣區 聯盟 心理 老年

    首頁> 中國發展門戶網> 本網獨家>

    具身智能安全治理與未來展望

    2025-04-22 11:19

    來源:中國網·中國發展門戶網

    分享到:
    鏈接已復制
    字體:

    中國網/中國發展門戶網訊 1950年,計算機科學先驅圖靈(Alan Turing)在其開創性論文Computing Machinery and Intelligence中描繪了具身智能(EAI)的愿景——機器能夠像人類一樣感知環境、推理決策并付諸行動,這代表了人工智能發展的終極形態。此后,具身智能大致經歷了3個發展階段(圖1)。在硬件發展階段(20世紀70年代起),具身智能的傳感器、處理器和執行器等硬件取得了進展,如微機電系統(MEMS)技術推動了傳感器件的小型化與集成化進程,為構建具備多模態感知能力的機器人奠定了硬件基礎;在算法提升階段(21世紀10年代起),深度學習、強化學習等算法開始廣泛應用于具身智能,提升其感知和控制能力;在通用智能階段(21世紀20年代起),大語言模型(LLM)(如Chat-GPT、DeepSeek)和視覺-語言-動作模型(VLA)(如OpenVLA)的涌現,為具身智能帶來認知架構的范式革新,使其具有強大的感知、推理、決策和執行能力,標志著通用具身智能成為主流趨勢。

    具身智能是指一種基于物理實體進行感知和行動的人工智能系統,通過與環境的交互獲取信息、理解問題、做出決策并實現行動,從而產生智能行為和適應性。如圖2所示,類似生物體,具身智能主要包括2個核心部分:“大腦”,指具身智能的模型與算法部分,模擬人類的思維與決策過程,負責高級推理、決策與規劃,并支持通過自然語言與環境進行交互。 “肉身”,指具身智能系統的各類硬件設施和物理實體部分,包括傳感器、處理器、執行器、網絡通信、電源等硬件設備?!叭馍怼笔蔷呱碇悄荏w的環境感知、動作執行乃至基本生存能力的硬件基礎。

    具身智能的“肉身載體”呈現多種形態,目前主要為機器人和自動駕駛汽車。機器人由于其結構上的仿生特性,是天然的具身載體,包括人形機器人,以及機械臂。2024年,世界機器人大會上就展現了27款人形機器人。Mordor Intelligence的機器人行業增長趨勢和預測報告顯示,2024年機器人市場規模預計為458.5億美元,到2029年預計將達到959.3億美元。自動駕駛汽車雖然形態上和生物體不一樣,但由于其兼備智能性和自主性等能力,也是重要的具身載體。上述智能機器人和自動駕駛汽車的發展趨勢表明,具身智能領域正處在蓬勃發展的黃金時期。

    具身智能為“人、機、物”三元世界引入高等級的“智能”、“關聯”和“交互”能力,將人類社會、信息世界和物理世界“對齊”在統一的平臺上,成為構建統一人類智能、機器智能和物理智能“巴別塔”的基石。它們不再只是概念和實驗室中的產物,而是逐漸成為改變我們生活和生產方式的現實力量。未來,具身智能必將在更多的領域展現出巨大潛力,引領人類走向更加智能化的時代。

    具身智能安全背景

    具身智能體在實際應用中暴露出一系列嚴峻安全隱患,對個人生命財產安全乃至國家安全構成威脅。近年來多起事故便是明證:2022年7月,一臺象棋機器人在國際公開賽上誤傷了一名7歲男童的手指;2023年11月,韓國一名工人因被工業機械臂誤識別為貨物而致命;在自動駕駛領域,僅2022年一年,全球范圍內就發生近400起自動駕駛交通事故。這些具身智能安全事故的根源在于其“大腦”和“肉身”均存在脆弱性,具體表現為具身智能系統的感知失誤、決策錯誤、執行失控等都會釀成事故,尤其是具身智能與物理環境的跨域交互特性進一步引入了新的安全風險維度。隨著具身智能系統在關鍵基礎設施中廣泛部署,這些安全漏洞可能被惡意利用,不僅威脅個人生命安全、破壞社會秩序,更可能危及國家科技自主權、社會穩定性與戰略利益等根本安全。

    針對日益嚴峻的具身智能安全問題,各國政府在積極探索有效的防護方法和治理模式。目前,針對機器人和自動駕駛等典型具身智能應用范式,國際標準化組織(ISO)已經立項標準ISO/CD 13482:2023(Robotics—Safety requirements for service robots),針對個人、專業、商業應用服務機器人,明確安全需求并界定涉及的機器人與危險程度,按照人機物理接觸條件給出功能安全附加信息。2024年7月,Communications of the ACM期刊發表文章Establishing standards for embodied AI呼吁從部件級和系統級盡早建立具身智能標準,確保具身智能安全性、可靠性、可用性。與此同時,我國也在具身智能相關領域開始布局,相繼發布了《具身智能發展報告》《2024具身智能全景圖1.0》《人形機器人分類分級應用指南》等重要政策文件和研究報告。

    然而,當前國際社會在具身智能領域仍缺乏統一的規范化標準,安全治理體系存在明顯空白。隨著具身智能技術的快速迭代與廣泛應用,各國急需加強在具身智能安全基礎研究方面的政策支持與資源投入,構建統一的通用化規范準則。建立多維度、系統性的安全治理方案,不僅是保障具身智能健康發展的必要條件,更是推動該領域持續創新的重要基礎。

    針對具身智能安全治理問題,本文首先定義了具身智能安全內涵和安全體系,包括具身智能本體安全、交互安全及應用安全3個方面。進而針對如何有效防范具身智能的安全風險,本文提出了具身智能綜合評測及防護框架,并展望其安全治理原則,以期為具身智能安全治理提供指導。

    具身智能安全內涵與體系

    與具身智能發展相伴而生的是復雜的安全威脅。具身智能安全需要同時考慮其“肉身”和“大腦”安全,同時也要考慮兩者融合之后的新型安全問題,如兩者的相互影響和制約導致的安全問題。具身智能強調與環境的交互性,因此安全內涵包括人、機、物三者多元共生系統安全,構建具身智能與人類自然語言交互、與物體精確熟練互動,以及與其他具身智能體共同協作的場景。如圖3所示,本文認為具身智能安全的內涵包括三大類:

    本體安全——根據具身智能體的“大腦”和“肉身”構成,其本體安全問題包括具身智能算法安全、感控安全及數據安全等。

    交互安全——具身智能體在與外部環境交互過程中的安全,根據交互對象劃分,包括人—機交互安全、機—物交互安全和機—機交互安全。

    應用安全——具身智能體所承載的任務目標對外部環境、人員乃至社會產生作用和影響,根據作用域劃分,可以分為信息域安全、物理域安全、社會域安全。

    具身智能本體安全

    具身智能算法安全

    具身智能算法安全關注智能體對環境和指令的準確理解,及其做出安全可靠規劃和決策的能力。以具身大模型為核心算法的具身智能,不僅繼承了傳統AI中的安全威脅,如對抗樣本、數據毒化和逆向工程攻擊,還面臨提示注入攻擊、越獄攻擊和偏見攻擊等大模型安全風險,尤其面臨大模型與“肉身”結合之后特有的安全風險,如具身智能行為安全對齊問題。研究表明,在視覺輸入中加入對抗樣本貼圖,會導致具身智能生成的動作軌跡偏離正確路徑;在路標上加入物理對抗樣本能夠使得自動駕駛汽車目標檢測錯誤;在人機交互中,通過在用戶指令后添加對抗性后綴,能夠操縱具身大模型的決策過程;通過精心構造具身智能大模型的輸入,可以繞過其安全對齊機制,從而觸發具身智能的惡意行為,如拿刀殺人;此外,在具身大模型的上下文中植入后門,可能引發有害決策或未經授權的隱私信息訪問,最終導致具身智能體失控或用戶隱私泄露。這些新型安全威脅對具身智能的安全性提出了更高要求。

    因此,具身智能算法安全的核心目標是確保計算流程和結果的可信度與可解釋性。通過模塊化設計,可以在問題發生時逐步定位具體的故障模塊;或者采用思維鏈方法,進一步細化推理過程,從而提升算法的可解釋性。在應對小概率異常場景、提示注入攻擊,以及惡意擾動的對抗樣本輸入時,可通過前檢測和后檢測過濾器進行防御,有效降低提示注入攻擊對具身智能系統的威脅。這些方法可以為提升具身智能算法的安全性提供重要保障。

    具身智能感控安全

    具身智能感控安全指的是在具身智能體與物理環境交互過程中,確保其感知與執行過程的安全性與可靠性。具身智能的物理交互涉及2次跨域:以感知為核心的物理域到信息域的跨域;以執行為核心的信息域到物理域的跨域。在這2個過程中,具身智能體需要準確感知環境信息并正確執行決策模塊的動作,這些能力依賴于其“肉身”,包括傳感器和執行器。

    傳感器安全:具身智能系統通過各類傳感器(如麥克風、相機和雷達)獲取環境信息,經識別處理后,輔助決策模型進行決策。然而,傳感器存在機械共振、電磁共耦、器件非線性、信號無鑒權等脆弱性,容易被環境信號(如聲音、激光、可見光、電磁等)無意干擾或惡意攻擊,從而影響感知正確性和系統安全性。因此,確保傳感器信息的真實性與準確性并增強其抗干擾能力,是實現安全決策的關鍵。研究表明,聲波信號可利用攝像頭中的慣性傳感器機械共振脆弱性,使成像畫面出現抖動模糊,從而導致目標識別出錯;還可以利用麥克風的非線性脆弱性,構造超聲波信號注入無聲惡意的語音指令;激光信號可以利用激光雷達的回波信號無鑒權脆弱性,消除、篡改或偽造點云。上述各類傳感器攻擊具有隱蔽性和多樣性,難以通過傳統網絡安全措施進行有效檢測和防御。為抵御傳感器安全威脅,需要實施包括聲學、光學、電磁學等多層次的綜合策略。未來應開發新型具身智能攻擊檢測方案,深入探索具身智能感知安全的邊界,并結合多領域研究成果,不斷提升具身智能系統的防御能力。

    執行器安全:具身智能依靠執行器(如電機和揚聲器)與環境交互,從而改變外界物理環境的狀態。確保執行器的安全是具身智能安全體系的最后一道防線,也是保障整個系統安全運行的關鍵環節。然而,執行器同樣面臨多種安全威脅,例如電磁干擾攻擊和電源攻擊等。研究表明,電磁干擾攻擊能夠直接影響電機的運行狀態,導致執行器動作異?;蚴Э?。此外,電源模塊的惡意攻擊利用內部線路的天線效應和非對稱性,篡改揚聲器的輸出信號從而引發錯誤行為。這些威脅不僅可能破壞具身智能體的正常功能,還可能對周圍環境和人員造成潛在危害。因此,執行器安全是具身智能體在復雜環境中實現安全可靠運行的核心保障。確保執行器的安全性和可靠性,是實現具身交互過程中安全操作的前提條件。未來需要針對執行器的潛在威脅,開發多層次防護機制,如增強電磁屏蔽、優化電源設計、實時監測執行器狀態等,以全面提升執行器的抗干擾能力和安全性能,從而保障具身智能系統整體安全性。

    同時,在跨域過程中,具身智能體可能面臨多種安全威脅。例如,攻擊者可能通過惡意物理信號攻擊傳感器或執行器,甚至聯動利用其“肉身”漏洞和算法缺陷實現精巧攻擊,威脅到智能體自身及周圍環境人和物的安全。

    具身智能數據安全

    具身智能數據安全是指在具身智能系統中,保護數據在采集、傳輸、存儲和處理過程中的安全性與隱私性,防止攻擊者干擾、竊取或破壞數據,從而確保具身智能體決策的準確性并保障用戶的數據隱私。

    訓練數據安全風險:具身智能訓練數據安全指的是訓練數據必須具備純凈性、公正性和對齊性,以確保模型訓練的可靠性和安全性。如果在訓練或微調具身大模型時使用了中毒數據,可能導致模型被植入隱蔽后門。一旦后門被觸發,可能引發嚴重后果,如車輛加速沖向障礙物等。因此,可以通過建立嚴格的數據來源審查機制,以確保訓練數據的純凈性和公正性,從根本上降低中毒數據帶來的風險。為防止中毒數據影響模型訓練,可以采用對抗訓練、聯邦學習等技術來緩解。不僅如此,具身智能大模型的輸出不僅需要符合人類規則與道德準則,還必須具備物理風險感知能力,與物理規律保持一致,從而規避潛在危險。因此,在具身智能大模型訓練過程中也需要加入安全對齊等措施。

    用戶數據隱私安全:用戶數據隱私安全是指具身智能在采集、使用、傳輸用戶數據時不侵犯和泄露用戶的隱私。在數據采集階段,具身智能體需要有效采集和處理感知信息并且防止攻擊者從側信道等方式竊取隱私信息;在數據使用階段,存儲于具身智能系統里的數據可能被竊取從而泄露用戶隱私;在數據通信階段,具身智能采集的用戶數據、任務數據和環境數據在傳輸過程中可能泄露,尤其在使用無線網絡時,未經加密的數據包易受中間人攻擊。為有效保護具身智能的用戶數據隱私,應在傳感器生成數據時屏蔽或加密敏感信息,而非事后進行隱私保護。在數據存儲與傳輸環節,通過部署本地計算或邊緣計算,可減少數據傳輸和集中存儲,從而降低數據暴露風險。在數據通信階段,應采用強加密算法確保數據傳輸的安全性,防止中間人攻擊和數據竊取。

    具身智能交互安全

    人—機交互安全

    具身智能人—機交互安全是指在具身智能體與人類交互過程中,確保具身智能不會對人類造成任何傷害,從而實現人機可信賴的協同與和諧發展。這需要通過限制具身智能的活動區域、設計安全規則等手段,確保其在所有預期使用場景中的行為對人類無害。例如,設置碰撞檢測機制、速度限制和緊急停止功能,以防止意外傷害的發生。此外,確保人類在交互過程中始終擁有控制權是關鍵。用戶應能夠隨時終止或調整具身智能的行為,以避免因失控或誤操作引發的安全問題。

    機—物交互安全

    具身智能機—物交互安全是指具身智能體在與物理環境中的對象進行交互時,確保交互過程能夠在不破壞無關物體的情況下實現預期目標。這涉及具身智能體動作執行的可靠性,能夠正確地搬運、放置、使用環境中的目標物體,從而避免對環境中的其他無關物體造成損壞;同時,也應加強其容錯與自適應能力,保證具身智能在復雜或動態環境中,能夠處理應對意外情況(如物體滑動或障礙物干擾)。

    機—機交互安全

    具身智能機—機交互安全是指在多個具身智能體共享同一環境時,確保交互過程中避免對其他智能體造成損害或安全風險,同時維持協作的高效性和系統的穩定性。通過行為規劃的協調和優先級規則的設定,避免因沖突或競爭導致的不安全情況,從而實現具身智能體之間的高效協作。在交互過程中,具身智能體還需防范信息泄露、篡改或誤傳,確保通信數據的機密性、完整性和真實性,最終構建可靠、和諧的多智能體協作環境。

    具身智能應用安全

    具身智能信息域安全

    具身智能信息域安全主要指在具身智能系統的部署過程中,確保模型、組件、適配器等在網絡傳輸中的完整性與保密性,以免受外部干擾或惡意操控。隨著具身智能大模型的蓬勃發展,研究者與開發者通常依賴開源平臺下載模型、適配器和組件。然而,若惡意攻擊者在上傳的模型或適配器中植入后門、通過插件獲取非必要權限,甚至在供應鏈中注入安全漏洞,則可能導致嚴重的安全隱患與隱私泄露。

    具身智能物理域安全

    具身智能物理域安全是指在具身智能系統運行過程中,確保其在物理世界中的安全,防止攻擊者對具身智能體或其所在環境實施干擾、破壞或劫持等行為。為實現物理域安全,具身智能系統需要構建全面的物理域風險檢測與阻斷能力,識別潛在的惡意指令、異常信號甚至惡意實體,以避免外部攻擊者侵入系統或引發危險行為。此外,還需要在執行任何動作之前對輸出指令進行安全審查,確保其符合預期的操作規范,避免對具身智能體、周圍環境或人類用戶造成破壞。

    具身智能社會域安全

    具身智能社會領域的安全性指在具身智能系統應用過程中,確保其符合法律、倫理和道德準則,與人類價值觀保持一致,避免對社會產生負面影響。在具身智能體的決策過程中,需要引入倫理考量,以避免侵犯用戶隱私、產生偏見與歧視,以及算法決策的不透明性等問題。具身智能不僅要關注技術安全性,還需重視其社會影響,確保技術應用符合法律法規、道德規范和社會倫理。

    具身智能安全防護及治理

    具身智能安全評測體系

    具身智能安全評測體系需要覆蓋評測標準、評測數據集、評測技術和評測工具平臺等,為具身智能安全發展提供科學、系統的支持。

    建立具身智能安全標準體系。標準的制定應統一不同硬件、軟件和算法的差異,充分把握具身智能軟硬件協同以及“人—機—物”深度融合的關鍵特征,既關注傳統安全問題在具身智能場景下的變化,又著力發掘具身智能中新的共性安全挑戰。通過綜合人工智能、網絡安全、控制理論等交叉學科領域的研究成果,構建涵蓋本體安全、交互安全和應用安全的完整標準體系。同時,根據具體的應用場景、功能需求和防護要求,構建具身智能系統分類分級標準,建立具身智能安全等級保護標準和評測標準,為安全發展提供科學規范的保障。

    構建安全評測數據集并研究評測技術。具身智能安全測試數據集包括各類惡意任務、指令及物理域中的單模態/多模態傳感器信號輸入,可用于具身智能體的模型訓練、測試過程評測和硬件、軟件算法模塊級測試及系統級聯合評測。針對軟件算法,發展算法黑箱檢測技術,通過紅隊安全測試,側重具身大模型魯棒性、幻覺、偏見性等評測;針對硬件器部件,需加強對帶內脆弱性、帶外脆弱性的檢測分析,降低多物理場惡意信號挾持具身智能決策或致幻的風險。尤其是,需要針對具身智能跨域脆弱性風險,如跨域致幻、跨域越獄攻擊等新型威脅,綜合物理域、信息域安全性指標,以及跨域系統性指標形成具身智能評測技術體系。

    構建規范化評測工具平臺。針對具身智能本體安全,開發聲、光、電、磁等多物理場信號驅動的具身智能硬件帶內帶外脆弱性評測平臺,以及具身大模型多維度指標評測平臺(圖4)。針對交互安全,建設虛實結合、人機協作的評測平臺。為克服在現實世界中對具身智能整機評測的成本高、速度慢及風險高等瓶頸,應同步開發具身智能仿真評測平臺,實現大規模、高并行的具身智能安全評測。同時,為保證人機協作過程中的人身安全,應注重考慮設計人在回路的安全評測場景與任務。最終,保證具身智能體走進千家萬戶的時候能夠避免“傷人害己”。

    具身智能安全防護技術

    具身智能安全治理還應關注基礎理論、安全設計、生產實現等方面的具體防護技術。

    突破可信具身智能關鍵基礎理論與技術。具身大模型因其具有模型黑箱、涌現機理不明及策略難以解釋等特征,在大規模應用,尤其是關鍵基礎設施和國防軍工領域的應用中面臨巨大挑戰。應重點發展價值對齊技術,確保具身智能系統的策略與人類價值觀和社會利益保持一致,從而增強具身智能的內生安全性。同時,發展具身智能策略監測與自診斷技術,結合思維鏈、檢索增強生成等技術,使具身大模型能夠清晰呈現輸出策略的邏輯推理過程,實現對具身智能系統運行內在機理的反向推斷與監測,從而全面提升具身智能的可靠性、安全性和透明性。

    發展全鏈路數據隱私保護技術。該技術有助于保障“人—機—物”數據安全和交互隱私安全。應系統性地考慮數據在感知、儲存、傳輸和使用等全生命周期各環節中的隱私問題,構建完整的隱私保護體系。在數據感知環節,重點解決傳感器過度感知的問題,通過傳感器內部做到數據脫敏和匿名化處理,實現傳感器生成數據“自源保護”,達到“生而隱私”的理念;在數據傳輸環節,采用數據加密和隱私計算技術,確保傳輸信道的安全性。同時,通過研究可驗證的多方安全技術,全方位保障用戶隱私數據在整個具身智能體工作鏈路中的機密性和完整性。

    保障具身智能軟硬件供應鏈安全。推動具身智能關鍵軟硬件國產化、自主化,打造更安全更自主可控的產業體系,保障具身智能產業安全。在硬件方面,把控硬件設計、制造、封裝測試和運輸各環節的安全,提防因硬件后門或漏洞造成具身智能系統失控或是癱瘓等惡意事件。在軟件方面,構建自主可控的模型算法全棧技術,包括底層硬件、異構計算框架、機器學習框架等;并且,緊密跟蹤軟硬件產品的漏洞披露信息,及時采取修補加固措施。

    思考改進具身智能系統設計規范。結合不同應用場景和安全等級要求,在系統設計階段就應優先考慮安全需求與目標,形成科學完備的設計規范。為防止具身智能系統被濫用,必須審慎界定其權力與能力邊界。從系統安全角度,重點研究防御嵌入技術機制,特別是關注具身智能面臨的多模態對抗攻擊風險。在“物理域—信息域”和“信息域—物理域”等跨域環節中,通過嵌入傳輸數據過濾檢查等防御技術,重點防范跨域過程中的安全隱患,全面加固和增強具身智能系統的防御能力,確保系統運行的安全性和可靠性。

    具身智能安全治理原則

    雖然具身智能技術仍處于發展的早期階段,尚未出現重大轟動性具身安全事件。但是,仍需盡早開始探索實踐具身智能治理方案與制度,引導具身智能產業良性發展和培育。本文建議具身智能安全治理,需要關注以下4個方面。

    建立全流程具身智能監管體系。貫徹我國針對生成式人工智能技術與應用治理的方針路線,秉持促發展和強監管并舉的理念,采取包容審慎、分類分級監管的敏捷治理模式,積極牽引“負責任的具身智能”落地。加強頂層設計謀劃,針對性地研究制定相關的監管規范,推進建設事前備案、事中風險評估、事后溯源檢測的全流程監管體系,嚴格把控約束具身智能發展的紅線。尤其是,可以借鑒目前大模型備案制度,針對具身智能中的“大腦”模型和“小腦”模型應從算法數據、算法模型、算法策略和應用領域等方面做好備案工作。強調具身智能與物理世界相交互的重要特性,強化對于具身“大腦”模型物理風險認知能力,以及具身“小腦”模型向客觀物理規律對齊的評估工作。針對具身實體,如機器人、無人車、無人機等,做好系統性備案工作,記錄硬件型號、廠商、批次等關鍵信息,形成具身實體“身份證”。具身智能系統中應設置“黑匣子”來采集運行過程中的模型輸出策略和硬件狀態信息,以便于事后能夠溯源、定位、追責系統中的問題模塊、使用者和責任廠商,改進提升具身智能系統安全。

    重視具身智能社會域倫理問題。除了硬性監管防控,具身智能治理還需關注具身智能所帶來的倫理規范與社會問題。具身智能深入社會生活生產后,許多傳統繁重、重復勞動將被取代,為避免失業潮,應積極探索調整社會就業結構,提供勞動者再培訓和技能提升的機會。具身智能的發展也將重塑人機關系,隨著具身智能在家庭機器人等領域的應用,特別是相較于聊天大模型應用,具身智能機器人還具備擬人化的外觀和物理可接觸屬性,很可能造成人類對于具身智能情感上和勞動技能上過度依賴,引發新的倫理問題。因此,政府應該積極引導公眾對于具身智能形成正確的價值觀念與認識,強調人類的主體性。一旦出現具身智能破壞物品資產和危害人身安全等事故,如何去劃分安全責任歸屬,也是具身智能治理的關鍵問題。應積極討論細化風險場景和主體,研究制定相應的法律法規,明確具身智能下的責任歸屬問題。

    推動完善多主體協同下的具身智能治理格局。積極發揮企業在具身智能產業中的創新主體地位,提升企業在具身智能產品研發和技術突破過程中的安全關切和要求,推動形成企業方具身智能產品安全自評估的制度規范。加強學術界在具身智能安全基礎理論和關鍵技術突破中的引領作用,培育高水平、有深厚學科交叉背景的具身智能安全創新人才和團隊。建立政府引導、行業自律、企業自治、學界引領、社會監督的多主體協同下的敏捷治理體系與具身智能治理格局。

    發展形成最低安全管控機制。為避免具身智能系統在關鍵應用領域失控,從而造成巨大破壞,應發展最低安全管控機制。在特殊情況下,人類能夠強制介入控制或是關閉具身智能系統,實現安全托底,保障環境和用戶安全,加固具身智能安全的最后一道防線。

    具身智能安全建議與未來展望

    具身智能安全是網絡空間安全在智能時代下的新形態、新挑戰,也將是各國戰略競爭新的制高點。為推動我國具身智能產業持續健康發展,不使“連接人與神的巴別塔”反成人類“通往地獄的階梯”,本文認為,未來應重視以下具身智能安全方面的工作。

    促進學科交叉發展,形成具有中國特色的具身智能安全治理方案。具身智能安全是全流程、全生命周期的安全,應并重軟硬件協同安全,同時還需關注具身智能給社會治理帶來的深遠影響。這不僅要求不同安全研究方向的科研工作者相互合作,還需要人工智能、控制科學、法律、社會學等領域的跨學科交叉共同合作研究,共同推進具身智能安全的整體治理。

    突破基礎理論研用,提升我國在具身智能安全領域的國際話語權。具身智能安全是一個重要新型研究領域,需要突破具身智能安全的基礎理論,構建系統化的具身智能安全研究體系,明確研究方向和重點,搶占該領域的科研高地。同時,應注重科研成果的產研轉化,推動理論研究向實際應用落地,形成自主可控的技術體系,為我國在該領域確立國際話語權和競爭優勢提供有力支撐。

    加快人才培養培訓,推動我國具身智能產業的良性、健康發展。推動具身智能安全的產、學、教深度融合,充分促進學術界與工業界的優勢互補,培養一批有深厚學科交叉背景、具備國際競爭力的復合型人才。同時,加大對具身智能安全領域的科研團隊與青年學者的科研資源支持力度,鼓勵產出具有原創性、影響力的科研成果。通過人才培養與技術創新的雙輪驅動,形成良性互動的發展格局,助力我國具身智能產業持續健康發展。

    (作者:徐文淵、冀曉宇、閆琛、程雨詩,浙江大學電氣工程學院?!吨袊茖W院院刊》供稿)

    【責任編輯:殷曉霞】
    返回頂部
    午夜无码福利18禁网站