時隔3年，在上海黃浦江畔，9月7日“2023 Inclusion外灘大會”再次啟幕。

而就在一周前，8月31日，12款通用大模型剛剛拿到監管部門頒發的“入場券”，終于面向普通個人用戶開放服務能力，從技術走向規?；瘧?。

在科技實現應用落地后，如何影響產業與世界的未來？在三天的大會上，聚焦“科技·創造可持續未來”，眾多專家學者與領軍企業代表分享了科技、人文和產業的思想碰撞。

其中，以大模型為代表的生成式人工智能成為最炙熱的話題，當人工智能來到“iPhone時刻”，萬億美元新賽道徐徐揭開，生成式人工智能又將往何處去？

人工智能來到“iPhone時刻”

在數十場論壇的觀點碰撞中，與會專家達成的一個共識是：大模型將成為智能時代的基礎設施，拉開產業深刻變革的序幕。

“大模型的突破，是人工智能時代的‘iPhone時刻’?！北本┲窃慈斯ぶ悄苎芯吭侯檰?、美國國家工程院外籍院士張宏江指出，2007年iPhone的發布帶來了移動互聯網的黃金15年，而大模型也將帶來AI時代的產業變革。

螞蟻集團董事長兼CEO井賢棟則引用了電影《奧本海默》的一句臺詞，正如發明原子彈“不是一種新武器，而是一個新世界”，大模型的出現，“不是一個新技術，而是一個新世界”。他說，iPhone時刻巨大的沖擊，遠遠不是大屏幕變成小屏幕這么簡單，而是通過小屏幕實現了用戶“永遠在線”，從而極大促進了人和服務、人和商品的整個連接。

清華大學計算機系副教授劉知遠判斷，GPT系列大模型再次驗證了“更多數據、更多智能”原則的適用性，隨著大模型的落地，邁向通用智能的“號角”已然吹響，將成為智能時代基礎設施。

今年以來“千模大戰”啟動引發市場對商業模式的熱議，但專家普遍認為生成式AI帶來的這輪產業紅利才剛剛開始。

麥肯錫中國區主席、全球資深董事合伙人倪以理在外灘大會現場預測，生成式 AI 的技術風暴有望開啟一場關系到未來 8-10年的新一輪技術和產業變革?！癆I 對全球經濟的潛在收益將達到 25 萬億美元，是當前所有企業最重要的賽道之一，但這個時代剛剛開始?！彼e例說道，在高科技行業，該技術每年可以額外創造 2400 億至 4600 億美元價值；在零售和消費品領域，每年可達 2400 億至 3900 億美元；在整個銀行業，每年可達 2000 億至 3400 億美元。與此同時，他指出，生成式AI可能大幅促進生產力提升，并提供新的就業機會。

具體到垂直產業來看，在IDC中國副總裁兼首席分析師武連峰發布的銀行數字科技五大趨勢中，AI風控、數字員工、邊緣物聯等三個趨勢都與AI有關。

生成式人工智能的技術浪潮也已席卷金融行業。

在本次外灘大會上，螞蟻集團發布了自研的金融大模型，該模型基于螞蟻自研基礎大模型，聚焦真實金融場景需求，底層算力集群規模達到萬卡規模。同時，螞蟻發布了C端智能金融助理"支小寶2.0"、B端智能業務助手"支小助"，其中，"支小寶2.0"已內測近半年，將在完成相關備案工作后上線。

“通用大模型無法在專業嚴謹的領域直接商用，特別是金融服務對錯誤的容忍度很低，金融大模型要確保領域知識和專業邏輯的嚴謹性，才能真正落地帶來產業價值。知識力、專業力、語言力以及安全力，保障四大能力是前提條件，也是金融大模型要解的產業真命題?！蔽浵伡瘓F副總裁、金融大模型負責人王曉航告訴記者，基于金融場景中的大量實踐，螞蟻金融大模型形成了“大模型+知識+服務”驅動的架構，這套架構已經在螞蟻內部金融智能化場景上內測。

為大模型戴上“緊箍咒”

在快速發展的人工智能大模型帶給社會以科技進步的驚喜時，深度偽造、AI倫理、數據安全等合規問題亦再次受到廣泛關注。確保人工智能技術公平、可控、安全，既是其能夠廣泛應用于生產生活的前提，也是保障AI產業健康發展的基礎，而這離不開政產學研多方治理共識的達成。

當通用大模型實現“無孔不入”，中國科學院院士何積豐在主論壇分享時指出，必須利用對齊技術為大模型戴上“緊箍咒”。何積豐指出，大模型的安全問題主要是在未經同意的情況下，收集、使用和泄露個人信息。隱私問題既可能發生在訓練過程，也可能發生在使用過程中，而大模型的生成能力則讓“隱私泄露”的方式變得多樣化，造成隱私保護更加困難。

“為了應對這些問題，我們需要大模型對齊技術?！焙畏e豐說，“對齊（alignment）”是指系統的目標和人類價值觀一致，使其符合設計者的利益和預期，不會產生意外的有害后果?！叭绻讶斯ぶ悄芸醋魑饔斡浝锏膶O悟空，‘對齊’就是唐僧的緊箍咒。有了緊箍咒，就可以保證技術不會任意使用能力胡作非為?！?/p>

圍繞AI科技倫理，中國信息通信研究院華東分院院長廖運發指出，大模型的發展進一步加大了人工智能的固有風險：一方面，隨著參數規模的擴大，訓練數據的細節得以體現在參數中，多模態增加了模型的供給面；另一方面，隨著大模型對訓練數據集的快速增長，難以對人工標注進行檢查，訓練數據侵權也構成了產業發展的隱憂；此外，大模型使得人工智能訓練的算力成本急速提升，在導致碳排放問題的同時，也使得中小企業越來越難以參與其中。

今年3月，1000名人工智能領域的學者簽署公開信，提出當前人們難以理解、預測或可靠地控制大模型，呼吁暫停訓練比GPT-4.0更強大的AI模型至少6個月。

事實上，隨著AI與社會不同領域的結合愈加深入，其引發的倫理問題也進一步延伸出不同層次與維度，既包含人工智能算法本身的缺陷問題，也包含AI在應用層面的不合理性問題，進一步往深處延伸，還包含算法與社會原有機制融合為一個復雜系統后，因邊界不清晰導致的社會影響不可控問題。

中國社科院哲學所科技哲學研究室主任、研究員段偉文在論壇發言中也指出，人工智能的生成與生產實際上是在數據基礎上進行的知識自動化，本質上是對現實生活世界的一種映射，這也意味著現實中存在的偏見與歧視問題也必然會體現在大模型生成的內容中。

“當前的人機對齊工作實際是把價值觀問題轉化為工程問題，通過人的標注與反饋來改進人工智能，但人類自身的價值尚未對齊，人類與機器的價值又該如何對齊呢？”段偉文由此呼吁，應給予人工智能產業在倫理問題上更多的工程與技術調整時間。

今年七月，國家網信辦等七部門聯合發布《生成式人工智能服務管理暫行辦法》，為生成式大模型的研發與應用劃定了基礎原則。多位參與本次論壇的專家也指出，隨著大模型應用場景與應用案例的積累，相關的倫理規則也將進一步豐富和完善，最終形成技術、社會、行業等不同層面的具體要求。

“智能算法與智能控制在越來越多領域發揮關鍵作用，這就使得人工智能的安全問題也越來越重要，和人類一樣，大模型與智能算法同樣會出錯，用得越多出現的錯誤也會越多，這也是社會需要長期關注AI安全問題的原因?！?中國科學院計算技術研究所研究員、副所長程學旗在論壇發言中表示，在處理AI倫理問題時需要技術治理與社會治理的同步推進，前者的目標是治理的自動化與常態化，后者則需要實現治理標準化與系統化。

責任編輯：韓希宇