編者按：2022年，生成式AI發展為人工智能發展注入一針強心劑，ChatGPT的橫空出世，被視為通用人工智能的起點和強人工智能的拐點，引發新一輪人工智能革命。人工智能發展似乎找到了自己的主流敘事。

不過，技術創新的同時也帶來了監管難題，我們面對的不是近在咫尺的當下，而是想象觸達不到的未來。對于顛覆性的人工智能技術，全球正在進行治理話語的競賽，中國將會如何通過立法來貢獻出具有中國特色的AI治理路徑？如何既擁抱技術發展，又能有效規制風險？之前南財合規科技研究院推出AI契約論系列報道以及《生成式人工智能發展與監管白皮書》，在此基礎上，將繼續推出AI立法進行時系列，以期為中國AI治理提供有益思路。

在過去的幾個月，ChatGPT之父、OpenAI創始人Sam Altman幾乎一刻也沒歇著，穿梭在每一個能為ChatGPT的去與從謀取發展空間的“辯論場”。

在美國國會山，他就AI技術的潛在危險作證，并敦促立法者對制造先進AI的組織實施許可要求和其他法規；在歐洲大陸，他拜訪了英國、西班牙、波蘭、法國等政府首腦；在多場國際學術會議上，他強調安全與對齊。

所有的活動中，有一個核心的主題：呼吁政府監管，幫忙行業有序發展。

這似乎有點顛覆人們的認知：這場“AIGC革命風暴”的最大受益者—AI行業全球的領頭羊居然要主動尋求管制。

事實上，全球正在進入“AIGC革命風暴”掀起的新一輪AI監管潮。

歐盟早先一步，《人工智能法案》進入最終談判階段。

系列跡象表面，美國政府最近也在緊鑼密鼓推進監管工作：一個月前，美國總統拜登就會見了AI專家和研究人員，討論如何管理AI在就業、兒童權益、偏見與成見以及信息方面帶來的機會和風險。美國政府正在考慮為這項快速發展的技術制定規定等法律約束。 

就在近日，美國政府于白宮召集美國七家AI頭部公司并獲得了七家人工智能頭部企業的自愿性承諾，確保人工智能技術的安全性、有保障性和可信任性。

在亞太地區，日本決定設立一個名為“人工智能戰略會議”的新機構，東盟正在籌劃人工智能治理和倫理指南，預計年底成型。 

中國則在7月份發布《生成式人工智能服務管理暫行辦法》，率先交出一份答卷。同時，人工智能法草案將預備提請全國人大常委會審議。中國人工智能法草案也將提請全國人大常委會審議。

Sam Altman的呼吁并非空穴來風。年初以來的“AIGC革命風暴”歷經狂熱追逐后，業內也回歸到理性共識：若缺乏適當監管，任由AI飆速發展，會帶來諸多隱患。

近憂與遠慮 

Sam Altman要求監管的動作可以理解為一種策略，通過游說和預先的風險提示來爭取有利于自身發展空間。但在更深層的邏輯中，AI帶來的風險、面臨的安全與對齊問題，遠非一家公司能解決的問題。

如果不能解決安全的問題，一切發展也就無從談起。法律和倫理隱患愈發牽動行業發展。

五月底，Open AI三位創始人發布了文章《對超級智能的監管》（《Governance of super intelligence》），其中提及，super intelligence的產生無法阻止，所以需要進行更大范圍內的監管。

“我們認為阻止超級智能的產生是困難的，因為利益如此巨大，建造它的成本每年都在下降，建造它的參與者數量正在迅速增加，而且它本質上是我們所走的技術道路一部分。阻止它需要全球監管制度，并且即使這樣也不能保證有效。所以我們必須確保它向正確的方向發展?！?/p>

全球范圍內如火如荼的“大模型建設”也日漸暴露弊端：AI濫造虛假新聞、AI詐騙、個人信息泄露、知識產權糾紛等這些嚴肅問題不得不被正視。近期，OpenAI就因疑似“竊取用戶信息”遭到集體訴訟。

伴隨大模型建立的大規模下游應用生態，其風險非常棘手。AI合規業務無疑是今年法律界的“香餑餑”，合規圈人士不敢有一絲懈怠，需要時刻關注每一個爭議才能讓解題思路跟上AI的“狂飆”速度。觀韜中茂律所合伙人王渝偉就是其中之一。他分析道，商業化應用會放大大模型風險，并且風險各不相同。比如個人信息，如果是在ToB的咨詢業務場景下，可能不會具體到個人，甚至整個業務場景都較少涉及個人信息，當然的個人信息隱私風險會比較??；但如果是私人助理的應用，數據直接對應到個人的可能性增大，在數據傳輸過程中個人信息暴露的可能性更高。

在云從科技咨詢規劃總監張俊看來，大模型使用的輸入數據合規也是關鍵問題。大模型是數據在大算力加持下的“暴力美學”，大模型語料庫使用的大量數據存在高度的數據合規風險。數據的權屬權益問題在全世界一直是個難解之題，目前國內數據要素的立法問題還沒解決，又出現了基于人工智能生成式內容的數據合規風險。

“所以現在國內大模型更多是私域部署運行，公域部署存在著數據使用安全合規的法律挑戰?！睆埧≈赋?。

360創始人周鴻祎也提及，公有大模型存在數據安全隱患，組織內部知識庫不適合訓練到公有大模型中；公有大模型易造成企業內部數據泄露。 

除卻這些“近憂”，本輪AI發展不可控的風險亦是無法忽略的“遠慮”。

非營利組織CAIS(Center for AI Safety)指出，高度勝任的系統可以賦予一小群人巨大的權力，從而導致壓迫性系統的出現；隨著大模型變得更有能力，它們會表現出意想不到的、性質不同的行為。AI可能自發地突然掌握一些能力，或出現新的系統目標，這可能增加人們失去對高級人工智能系統控制的風險。

美國加州大學伯克利分校計算機科學教授、人類兼容人工智能中心 (Center for Human-Compatible AI)主任斯圖爾特·羅素（Stuart Russell）指出，人工智能系統可能會通過對話來改變數億人的觀點和情緒。OpenAI等科技公司應該停止在不告知的情況下向數億人發布新的人工智能系統，這些系統可能會通過對話來操縱和影響人類的思想和行為，導致一些災難性的后果。

監管如何破除方法論窘境

“不是我們無法適應，而是這一切可能發生的速度?！边@也是Sam Altman所擔憂的。

超速發展之下，如何監管AI或許面臨方法論的窘境。

早在1980年，英國社會學家科林格里奇（David Collingridge）就指出，預測科技和控制科技基本上是相互違背的兩種行動。當某個科技還沒完全成熟、廣泛應用時，我們頗有機會和能力去影響和介入它的發展，但問題在于，此時我們并不知道它會帶來什么社會后果；相反，當我們可以清楚猜到或者見到某個科技帶來的社會后果時，這個科技往往已經技術成熟且被大量使用，以至于我們很難再去做出任何大幅度的修改或將其撤回。

中國信息通信研究院互聯網研究中心副主任何波指出，技術的演進在某種程度上具有不確定性，與傳統網絡空間相比，人工智能等新興領域更具有較大的不可控和不可預知性。因此，不能完全照搬傳統互聯網發展所遵循的“先發展再治理”的理念，需要提前劃定安全底線和發展紅線，避免新技術發展陷入“科林格里奇困境”（Collingridge's Dilemma），一個技術的社會后果往往不能在技術生命的早期被預料到，而當不利后果發生的時候，技術卻往往已經成為整個經濟和社會結構的一部分，再對它進行控制就比較困難。人工智能領域的發展具有很強的技術性、動態的變化性等特征，相關監管制度的合理性和可行性也需要進一步研究完善，實現良法善治。

可以看到，近期立法與監管政策正在密集推進。

在中國，國家網信辦作為互聯網信息服務均等主要監管機關，近年來密集出臺了人工智能領域的相關規定。比如《互聯網信息服務算法推薦管理規定》、《互聯網信息服務深度合成管理規定》等。

針對本輪生成式AI的熱潮，網信辦也迅速做出反應。今年4月，國家網信辦《生成式人工智能服務管理辦法（征求意見稿）》發布并向社會公開征求意見，以促進生成式人工智能技術健康發展和規范應用。7月13日，國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局正式發布《生成式人工智能服務管理暫行辦法》，給出了“生成式AI時代”下中國關于AI治理的獨立思考。

6月初，國務院公布的2023年度立法工作計劃通知顯示，人工智能法草案預備提請全國人大常委會審議。

早在2021年，亞歐大陸另一端的歐盟委員會就發布了歐洲議會和理事會《關于制定人工智能統一規則》的立法提案（即《人工智能法案》），意在建立關于人工智能技術的統一規則，以促進形成合法、安全、可信的人工智能市場。

針對生成式AI，今年，《人工智能法案》又進行了多輪談判，將根據《人工智能法案》授權草案，針對ChatGPT等生成式人工智能設立專門監管制度。

在OpenAI、微軟、谷歌等科技公司總部所在地的美國，也一改此前重發展的思路，強調監管的重要性。

今年4月，美國國家標準與技術研究院宣布制定負責任地使用人工智能的方法框架，試圖使政府的AI監管工作方面扮演突出角色。5月，美國白宮總統科技顧問委員會（PCAST）成立了一個生成式人工智能工作組，以幫助評估關鍵機遇和風險，并就如何最好地確保這些技術的開發和部署盡可能公平、負責任和安全提供意見。 

尋找新型人工智能監管框架 

盡管此前不乏人工智能相關的法律與監管政策，但現在，各國、地區面對的人工智能不在停留在代碼、停留在局域應用層面，而是技術突破后能力不斷進階、商業應用極有可能大規模落地的新局面。

一方面，沒有任何一方愿意被本輪人工智能發展“革命”，另一方面，負責任的創新極為重要。隨著生成式人工智能研究和使用規模逐漸增長，通用人工智能的腳步逼近，建立新型的人工智能監管框架十分必要。

人工智能的復雜性也考驗監管智慧。正如前文所述，首先，生成式AI的風險有未知性，大模型表現的“涌現性”特征及“幻覺”問題仍待解決。大規模商用后伴生風險該如何規避？ 

其次，現有法律框架內未能解決的數據所有權等問題，隨著大模型的應用而愈發棘手。

最后，立法的目光不得不看向更遙遠的通用人工智能。安全與對齊的問題更加重要。 

GPT-4 花了八個月的時間完成對齊方面的工作，但相關的研究還在升級。如何讓日益強大的AI系統，目標行為與人類的價值觀與利益相對齊，并非一家公司或一個行業能做到。它涉及到對價值觀的理解與判斷，涉及到對技術的監管，涉及到被影響的每一個人。 

毫無疑問，本輪人工智能浪潮正在改寫游戲規則。當人工智能的發展和更廣泛的應用已經勢不可擋，在各方紛紛想要抓住機遇的同時，伴生的風險也應被認真對待。立法、監管應全方位考慮人工智能帶來的影響，尋求找到安全和發展之間的平衡點。

在接下來的系列報道中，我們還將就中國AI發展現狀、算力建設情況、各國AI治理進展等展開更深入的探討。

責任編輯：王超