作為引領第四次科技革命的戰略性技術，人工智能給社會建設和經濟發展帶來了重大而深遠的影響，但數據隱私、算法偏見、技術濫用等安全問題也正給社會公共治理與產業智能化轉型帶來嚴峻挑戰。未來人工智能如何兼顧創新發展與安全可控？6月3日，北京智源大會期間，由北京瑞萊智慧科技有限公司與阿里安全聯合舉辦的“AI安全與產業治理”論壇正式召開。

中國科學院院士、清華大學人工智能研究院院長張鈸，北京市經濟和信息化局郭家義、中國信息通信研究院安全所信息安全研究部主任魏薇、中國人工智能產業發展聯盟辦公室主任、信通院云大所人工智能部副主任石霖、瑞萊智慧RealAI田天、阿里巴巴安全部技術總監薛暉、百度安全主任架構師包沉浮等在內的數十位專家出席本次會議，圍繞人工智能安全可控發展這一關鍵性話題展開深入探討。

一、人工智能亟待發展“安全可控”新能力

在學術論道環節，中國科學院院士、清華大學人工智能研究院院長張鈸在致辭中表示，未來人工智能產業發展在擴大應用場景的同時，必須實現數據、算法與應用層的安全可控。同時，他表示人工智能的安全可控問題要同步從技術層面來解決。在具體的實現路徑上，張鈸院士提出發展“第三代人工智能”，即融合了第一代的知識驅動和第二代的數據驅動的人工智能，利用知識、數據、算法和算力四個要素，建立新的可解釋和魯棒的AI理論與方法，發展安全、可信、可靠和可擴展的AI技術。

北京市經濟和信息化局郭家義對論壇的召開表示祝賀，對發展第三代人工智能表達了充分的期待。他認為，當今世界正處于新一輪科技與產業大變革的偉大時代，人工智能作為新一輪科技革命和產業變革的重要驅動力量，正在深刻改變世界，但隨著人工智能的快速發展，各種安全問題也接踵而至。第三代人工智能的提出恰逢其時，將助力我國實現人工智能在安全可信領域的突破,也必將對北京進一步落實國際科技創新中心定位、構建首都高精尖經濟結構產生積極的影響。

作為第三代人工智能的踐行者與引領者，瑞萊智慧CEO田天表示，現階段人工智能產業正經歷從高速增長向高質量發展的轉變，產業期待的提升讓金融、醫療等更復雜的高價值場景的應用需求不斷增加，安全性的重視程度也不斷提升，但由于傳統技術范式存在天然的算法漏洞和缺陷，難以支撐人工智能的長久高質量發展，為此田天提出，需加快發展第三代人工智能，發展“安全、可控”核心能力。

如何定義人工智能的“安全可控”？田天闡述道，“安全”是指打造數據安全與算法安全兩大核心能力，解決數據強依賴帶來的隱私泄漏與數據投毒等隱患，同時提升算法的魯棒性與可靠性，“可控”既指應用層面的合規可控，更指核心技術的自主可控，以自主可控為根基，通過理論創新、技術突破形成核心競爭力。安全可控是發展第三代人工智能的核心基準，也是加快人工智能高質量發展的有力支撐，田天強調。

數據的不安全和算法的不安全是制約當前人工智能產業發展的主要因素，也是發展安全可控人工智能需要解決的核心問題。伴隨人工智能產業應用的不斷深化，人工智能安全問題將迎來大規模爆發。中國信息通信研究院安全所信息安全研究部主任魏薇表示，人工智能與數據產業互促發展的同時安全問題也交織影響，一方面人工智能對數據強依賴的發展特性導致其面臨的自身數據安全風險、應用導致的數據安全風險以及應用加劇的數據治理挑戰日益凸顯，另一方面，人工智能也為數據治理工作提供自動化、智能化、高效化、精準化的智慧支撐。圍繞發展與安全并舉的治理思路，魏薇從倫理規范、法律法規、標準體系、技術手段、人才培養等角度出發提出多項數據安全治理建議，為實現人工智能行業數據安全合規實踐提供支撐。

相較數據安全，算法安全問題仍處于剛“興起”階段，但其安全危害仍然不容小覷。阿里安全資深算法專家何源介紹道，雖然人工智能技術已經在凈化網絡環境、知識產權保護、生物識別、線下安防等安全工作中發揮著越來越大的助力作用，讓安全更智能，但其本身也面臨著魯棒性不夠、可解釋性差、技術濫用等安全風險，比如算法漏洞的存在可以針對圖像檢索系統開展攻擊，導致非原創圖片逃逸檢測等，對網站安全與商家權益造成威脅等。

百度安全主任架構師包沉浮也表示，算法安全風險的實際危害正逐步體現，自動駕駛場景下，模型魯棒性的欠缺將導致自動駕駛系統在對抗環境或光線、天氣條件多變的復雜環境中發生錯誤識別而引發嚴重后果。除了算法安全外，他認為人工智能安全還包含“實現安全”。他強調，代碼安全與場景安全的“實現安全”也直接影響著AI系統最終決策的完整性與安全性。

二、實現人工智能安全可控需配套“基礎設施”

發展安全可控的人工智能是一項系統性的工作，需要行業標準、法律規范等治理工作與技術發展等多個維度共同推進，打造與之配套的“基礎設施”。

針對算法治理路徑的探索，清華大學人工智能治理研究院副院長梁正從社會治理的角度提出，算法模型存在難以解釋、難以控制、難以問責的特征，可能導致歧視、脆弱不穩定、操縱剝削、信息繭房等安全風險。與國際算法治理經驗相比，國內的治理依據雖然初步形成，雖然政策引導、標準指南、法律規章等相繼發布，但尚未形成完善的治理體系。如何開展算法治理工作？他提出，首先需進行分領域、分級治理，并確定治理優先級，目前聚焦于利用個人信息進行的自動化決策系統，未來聚焦于涉及人身安全的高風險領域，同時在算法治理中識別和區分規則問題和技術問題，采取針對性的措施，以及堅持安全、公平、透明和隱私等基本原則，實現負責任的人工智能。

針對人工智能發展中隱私和數據保護的解決路徑，中倫律師事務所合伙人陳際紅表示，《網絡安全法》與不久后將出臺的《個人信息保護法》、《數據安全法》將構成我國數據保護與監管的“三駕馬車”，為數據保護提供嚴格的法律環境，但人工智能產業發展對于大數據、實時數據、數據融合的需求將與這些數據保護原則產生沖突。為此他建議，一方面企業應主動做合規，在產品開發、產品技術架構預先主動防范風險，將隱私的概念引入到產品生命周期之內，另一方面他也呼吁立法機構要兼顧隱私保護和產業發展的平衡，社會普遍接受的良好隱私保護理念加上嚴格的法律環境是助推技術長久發展的兩翼。

除了從政策、法規方面，技術基礎設施的打造仍將發揮起基礎性的作用。作為第三代人工智能領域的踐行者與領導者，RealAI推出了一系列更加安全可控的人工智能基礎設施，基于安全多方計算、聯邦學習、匿蹤查詢等技術打造的數據安全共享基礎設施RealSecure，用于解決數據隱私難題；針對AI系統推出的防火墻與殺毒軟件平臺RealSafe，能夠為人臉識別、目標檢測、圖像分類等應用提供有效的安全檢測與防御加固服務。田天表示，這一系列基礎設施將打開AI能力的全新維度，為人工智能產業治理工作提供有效工具支撐。

尤其人工智能算法安全性的提升本質上是對抗攻防不斷升級的過程，但是如何全面、客觀、科學地衡量算法模型的安全性，是目前工業界和學術界都面臨的難題。針對這一難題，RealAI聯合清華大學、阿里安全和發布業內首個基于深度學習模型的對抗攻防基準平臺（Adversarial Robustness Benchmark），此基準可以更加公平、全面地衡量不同算法的效果，提供方便使用的魯棒性測試工具，全面衡量AI模型的安全性，用戶通過提交模型的方式可以獲取安全性的得分。

不同于之前只包含零散攻防模型的對抗攻防基準，此次推出AI對抗安全基準基本上包括了目前主流的人工智能對抗攻防模型，涵蓋了數十種典型的攻防算法。不同算法比測的過程中盡量采用了相同的實驗設定和一致的度量標準，從而在最大限度上保證了比較的公平性。除此之外，本次發布的AI安全排行榜也包括了剛剛結束的CVPR2021人工智能攻防競賽中誕生的排名前5代表隊的攻擊算法。此次競賽吸引到了全球2000多支代表隊提交的最新算法，進一步提升了該安全基準的科學性和可信性?！巴ㄟ^對AI算法的攻擊結果和防御結果進行排名、比較不同算法的性能，建立AI安全基準具有重要學術意義，可以更加公平、全面地衡量不同算法的效果?！敝燔娊榻B道。

三、安全可控人工智能將重塑產業智能

在“新基建”浪潮的驅動下，人工智能產業即將迎來與傳統產業深度融合的機遇期。田天表示，在安全可控的核心支撐下，可以高效的貢獻人工智能的技術優勢，重塑產業智能，實現從“單點自動化”到“深度智能化”的價值提升。他提到，在金融領域，人工智能的創新融合正為金融場景打造出一個兼具決策分析與感官感知的“智慧大腦”。在安全可控的支撐下，“智慧大腦”能夠拓展全新能力邊界，實現更好的決策左腦與更加安全可靠的感知右腦。同時，他介紹到，RealAI基于多方安全計算、聯邦學習、人工智能安全攻防等技術打造了一套結合“數據保障、算法檢測、應用管控”的可信人臉完整解決方案，在保障人臉隱私安全、數據泄漏溯源、算法安全評估、信息合規等做前提下，推動人臉識別在關鍵的社會公共服務場景下的深度應用。

中國工商銀行軟件開發中心大數據與人工智能實驗室副主任在其演講中介紹道，工行在現有人工智能技術體系基礎上，圍繞“軟硬件運營環境可信、數據隱私保護、算法模型安全”三大核心能力建設出金融領域的人工智能技術安全可信能力，保障人工智能大規模應用的合法合規、安全可信。他強調，AI安全是AI大規模應用的前提和必備條件，同時AI可信能力必須是全棧且覆蓋模型全生命周期，通過安全可信技術的研究和突破，提升規?；疉I生產部署的安全可信支撐能力，可以增強多方數據生產要素的融合能力，為數字經濟社會提供更高效率、更低成本、更低門檻的普惠金融服務。

金融行業作為高度數據化的行業，數據隱私保護是必然趨勢。建信金融科技有限公司創新實驗室總經理王雪表示，隱私保護計算作為前瞻性的安全可信技術，能夠在隱私保護基礎上實現數據價值最大化，通過多方數據融合分析，最大程度挖掘數據價值，在滿足監管要求的前提下實現數據互聯互通，通過新的業務模式擴展外部數據連接，解決數據供給側和需求側匹配的問題，深入金融數字化轉型。

除此，針對應用場景豐富且產業潛力巨大的智能制造領域，同樣需要構建魯棒安全的AI系統。三一集團無人駕駛科學家、三一機器人科技有限公司副所長賈全介紹道，智慧物流是無人駕駛技術在智慧工廠中的典型應用。在實際作業過程中，需要在高干擾的生產環境場景下高效高精度的完成工作，同時系統還面臨著硬件平臺與軟件平臺的安全挑戰，為此三一機器人正通過產學研的緊密合作共筑產業安全，推動智能制造健康可控發展。

安全可控人工智能在各行業領域的應用將進入專業化的深層次融合階段，面向垂直領域需求挖掘深層次應用潛力。廣電運通信息科技有限公司總經理田豐表示，基于人工智能技術底座打造智能引擎，圍繞智慧金融、智慧安全、智慧交通、智慧便民等業務領域賦能城市智能產業發展，在安全可控的基礎上，將能夠推動全要素高質量發展，深化城市智能戰略布局。

最后圓桌環節，中國人工智能產業發展聯盟辦公室主任、信通院云大所人工智能部副主任石霖與浦發銀行創新實驗室AI領域負責人李鋒、光大銀行多方安全數據智能實驗室主任李成、滴滴安全產品專家孫以強、瑞萊智慧RealAI聯合創始人劉荔園圍繞安全可控人工智能的產業應用展開研討。

在安全可控的助力下，“深度智能”時代正將加速到來，人工智能在各行業領域的應用廣度和深度將不斷得到拓展。人工智能的未來圖景充滿想象，但要實現真正的人工智能仍面臨諸多深層挑戰，田天表示，第三代人工智能通過釋放“數據、知識、算法、算力”的全新維度，為實現安全可控的新一代人工智能提供可能，讓人工智能走出“淺層智能”的舒適區，重塑全新的產業價值。

責任編輯：陳愛