從ChatGPT到Sora，人工智能技術為人類帶來許多驚喜。然而，在當下，仍有安全、倫理、隱私風險與AI應用相伴而生。隨著人工智能技術深度介入人類的生產生活，如何做好社會利益和技術進步之間的平衡，是當前必須要面對的問題。

“我國的人工智能發展與治理間并不存在本質沖突?！敝袊茖W院計算技術研究所副所長、研究員，中國科學院網絡數據科學與技術重點實驗室主任，CCF中國數字經濟50人論壇秘書長程學旗在數字中國建設峰會特色活動“院士專家行”會后接受21世紀經濟報道記者采訪時指出。

全球范圍內，人工智能治理步伐都在逐漸加快。

今年，歐盟《人工智能法案》即將正式落地、美國參議院AI工作組發布《推動美國在AI領域的創新：參議院AI政策路線圖》指導美國國會監管人工智能，提供立法框架。而我國早在去年就發布《生成式人工智能服務管理暫行辦法》《生成式人工智能服務安全基本要求》等，為AI廠商合規提供服務指明方向。

然而，當前，部分人工智能從業者卻擔心過于嚴格的標準可能會因為合規資源占用導致成本飆升，進而影響行業發展。

程學旗認為，人工智能治理工作應當持續推進，確保技術發展和應用與社會價值觀和法律法規保持方向一致。

AI正逐步走向千行百業，應用范圍不斷擴大。事實上，除了已經進入辦公室的大語言模型，AI技術在更早之前就廣泛地存在于推薦算法、自動駕駛等場景之中。

從技術角度出發，AI本身就具有“不確定性”?！八惴ú豢杀苊獾貢泻谙浠牟糠?，AI模型在設計過程中可能也存在意圖不清晰等問題。這些都會導致人工智能有潛在的安全、倫理、隱私風險。常常被擔憂的用戶數據泄露、大模型‘幻覺’都是不確定性帶來的負面影響?！背虒W旗指出。

我國人工智能產業的發展可以用日新月異來形容——模型大戰參戰者成“百”上“千”，具身智能等新應用、新場景不斷涌現。技術跑得快，治理也要跟上。制定法律規則對其監管成為一種必然?！八?，我認為目前監管步調適度加快是可以理解的?！彼赋?。

他透露，目前，國家相關部門還在嘗試從技術出發，構建部分智能化算法的技術發展譜系?！巴瓿勺V系建構后，我們對其可信性、魯棒性、可解釋性和安全性等技術性質的判斷將更加精準，進而可以更加針對性地確認其應盡的合規義務?！彼赋?。

責任編輯：王超