《閎議》訪談節目由《中國科學院院刊》與中國互聯網新聞中心聯合出品，通過采訪兩院院士及專家學者，深度探討推進中國式現代化進程中各領域的發展前路。以客觀、精準的解讀，科學、前瞻的思考，為站在“兩個一百年”歷史交匯點上的中國發展破題解惑，為邁向第二個百年奮斗目標貢獻智慧力量。崇論閎議，尋策問道。

中國網/中國發展門戶網訊 人工智能技術經過幾十年的發展，正在進入技術創新與顛覆式應用模式頻現的爆發期。隨著近年來人工智能技術的不斷進步，傳統的公共安全治理模式如何應對人工智能時代的突發安全事件已經成為不可忽視的問題。如何從技術層面發力，實現對人工智能犯罪的防范和遏制？面對具身智能的發展和未來“人機共存”的遠景，需要從技術和規范上作出哪些準備？對此，《閎議》節目組專訪了中國科學院計算技術研究所研究員曹娟。

重塑傳統的公共安全技術體系

中國網：近年來，以AIGC等人工智能技術進行犯罪的案例廣受關注。您認為，人工智能技術對傳統的公共安全治理模式造成了哪些重要的挑戰？

曹娟：隨著人工智能技術的快速發展，人工智能犯罪比例越來越高，主要給傳統的公共安全帶來了兩個方面的挑戰。首先，人工智能技術使得傳統的違法犯罪成本大大降低了。比如說電信詐騙，原來需要專業的人去寫詐騙的劇本、去打詐騙電話，但是現在很多都可以用大模型來替代了。所以我們需要對原來傳統的公共安全治理技術進行快速升級。另一方面，新技術也催生了很多新的違法犯罪的行為。比如說無人駕駛里的安全問題，具身智能的安全問題等等。這就需要我們去重塑傳統的公共安全技術體系。

具體來說，生成式人工智能的技術會給傳統的公共安全體系帶來三個層面的風險。第一個也是最重要的就是國家安全的風險。比如說利用生成式人工智能技術去生成虛假偽造的信息、去操控輿論，這是目前全世界各個國家最頭疼的一個問題；第二個就是行業安全問題，比如說利用生成式人工智能在金融領域進行身份的偽造，在學術領域進行學術造假，這種問題會對行業的健康發展帶來風險；第三個就是個人安全問題，比如說利用生成式人工智能技術進行電信詐騙、侵犯隱私等等。這些會給未來人工智能時代每個公民帶來困擾。

中國網：從您的研究角度出發，您認為從哪些技術層面發力，可以實現對人工智能犯罪的防范和遏制？

曹娟：新型的人工智能犯罪都是因為新技術帶來的。新的犯罪問題一定是要用技術去攻克它，所以用AI治理AI肯定是非常有效的一條途徑。

具體來說，以虛假偽造檢測為例，技術上存在四個特別大的挑戰。第一個就是生成式人工智能發展特別快。我們怎么去做到每一個新出現的大模型生成的內容都能檢測？要具有很強的泛化能力，需要快速去優化，有一個非常強的偽造檢測的專用底座模型。有了這個模型以后，我們三天左右就可以優化到90%多。所以這個偽造檢測的底座模型的建設是未來提升泛化能力的一個最核心的技術。

第二個就是強對抗性，去詐騙的人肯定不想讓你發現他，所以他會加上很多的手段來對抗。比如說會把詐騙的圖像、詐騙的視頻壓縮得很小，模模糊糊，這就使得偽造檢測很難；比如會加上一些對抗樣本的誘導，使得檢測出錯等等。所以如何在這種高風險、強對抗的犯罪場景下進行偽造檢測就變得非常難，我們需要研發這種高精度的偽造檢測技術。

第三個是生成式人工智能的技術，本身是特別好的新質生產力的代表，所以大家都鼓勵用這個生成技術。（但是）要怎么去在大量的無害生成內容里面找到惡意的偽造內容，這是一個很大的挑戰。因為在技術層面都是用的一樣的技術，都是用的生成技術，但是一個是大量的無害的生成，一個是惡意的偽造。不要影響正常的正向應用，保證兼顧發展又兼顧安全，是我們需要解決的。

第四個是隨著人工智能技術的普惠，人工智能的犯罪可能也會普及化，很多普通人都會因為不懂技術或者（缺乏）法律意識，自己不小心就成為了一個犯罪者。這時候需要我們每個人手上都有武器，要給大家研發普通人都有、都能用的鑒偽工具，讓他們在遇到問題的時候有工具可查，有能力去驗證，這樣就可以大大降低犯罪的比例。

三建議應對人工智能技術帶來的安全風險

中國網：如何應對人工智能技術給公共安全體系帶來的風險？

曹娟：為了應對人工智能技術給公共安全體系帶來的這些風險，有以下三個方面的建議。

第一個是這些技術算法本身內生的安全評估一定要做好，比如說自動駕駛這個算法評估安全了才能上路，大模型技術評估做完了，做好了安全對齊才能去上線。要保證我們使用的技術是有一定程度的安全門檻的。

第二個是基于這些人工智能技術生產出來的產品，在不同的應用場景下與人交互的時候，使用不當，濫用（技術）可能會帶來很多的安全風險。比如大數據殺熟，利用算法壓榨快遞員等，這個時候需要我們去制定不同行業的標準使用規則去規避這些風險。

第三個是未來我們會進入一個人和機器人共存的時代。隨著機器人參與到我們社會生活和社會生產的過程中，會引出一系列的安全問題、倫理問題和社會問題。我們需要提前布局，提前謀劃去應對未來可能的風險。比如說在執法的過程中，到底機器人是以什么身份參與這個行為的，它和人之間的關系是什么？需要定義清楚，我們才能劃分責任的主體。還有比如說隨著機器人參與到我們的社會活動中，它可能會給社會結構帶來沖擊和變化，我們人需要積極的心態去正視這個問題，去更積極地面對這個新技術帶來的新的社會問題。

積極地去擁抱新技術，然后運用新技術讓我們的生活越來越美好。

（本期策劃：楊柳春、王振紅；編審：楊柳春、王振紅、王虔；編輯：王虔、武一男。出品：《中國科學院院刊》、中國互聯網新聞中心）