人工智能作為一項無處不在的賦能技術， 越來越被大眾所熟知。技術發展方向從智能認知、智能感知到現在的通用性泛在智能。

人工智能技術的突破和應用需要巨大的資金投入， 投入應當產生經濟價值，如果開發出優秀的人工智能產品，但是由于價格昂貴無人買單，技術研發和產品量化生產成本無法降低，那么這種發展是不可持續的。

目前人工智能的發展主要有三大特點。

首先，現階段人工智能的通用性較弱，行業應用場景差異較大，技術大規模的普及應用仍未真正實現。因此需要有更多的技術推動人工智能通用發展，此趨勢不可阻擋，不僅是技術發展的需求，更是整個社會經濟發展的需求。

其次，人工智能是一種賦能技術，并非一門學科。人工智能能夠與行業、社會治理結合，具備新的賦能功能。

以上海為例，人工智能的發展關系到上海的經濟中心、金融中心、航運中心、科技中心建設，能夠與四大中心建設緊密結合。目前上海人工智能發展共有兩大試驗區，一是科技部支持的國家新一代人工智能創新發展試驗區，另一個是全國首個人工智能創新應用先導區。無論是科學中心還是科創中心， 其面臨的重要挑戰都是缺少“以人為本”。

最后，人工智能最大的特點是以人為基本單位，而不是技術需要?，F階段技術的發展已經觸碰到了應用邊線，在很大程度上屬于邊界問題。早期人工智能充滿趣味性，能夠與人類下棋，微軟公司也開發過打麻將的游戲。

但是， 筆者并不認同此種人工智能的發展方向，人工智能賦能并不是與人類玩游戲，關鍵在于能夠給人類生活提供幫助。大型企業更多地在做游戲軟件開發，比如教會人工智能如何下棋、打麻將，然而筆者認為這種方向并不太受歡迎。

人工智能技術發展需要大數據和行業的應用能力結合，產生良好的效應。其實質是通過計算耗費算力與產生結果，并不需要消耗大量的燃料，需要的是各種軟硬件集合支持。

在這種情況下，并非人類大腦參與了人工智能技術的發展，因此，如今的人工智能發展方向出現了偏差。如果是人為參與指導，人工智能發展的發展速度會比較快，這應當是我們所關心和重視的發展方向。

無論是研究機器視覺、策略游戲，還是語言文本、輔助工具、安全防范，都應當有很強的人機交互過程。過去強調得比較少，更多的是強調機器自動生成。

人工智能在學習一些最簡單的算法，而算法的標簽都是由人類打的。人類制作了大量標簽，使機器懂得哪個是“狗”， 哪個是“貓”。如果是在家庭環境中，父母利用兩張卡片便能夠教會孩子如何區分清楚“狗” 和“貓”。當前，人工智能仍處于發展的初步階段，并沒有找到機器如何向人類學習的方法。

人工智能引領新一輪產業革命。中國人工智能產業發展迅速，處于全球第二位，以上海為例，上海擁有六大產業模塊，在全國范圍內處于領先地位，而傳統產業的改造并非一朝一夕能夠完成，因此人工智能賦能傳統產業顯得尤為重要。

傳統產業的改造面臨著新的挑戰， 最重要的在于人工智能技術如何為傳統產業服務，這應當是最值得關注的問題。

關于無人駕駛的問題，筆者并不贊成無人駕駛，“智能駕駛”已經足夠，只有人、路、機、車聯在一起才能組成智能的交通系統。

比如在無人駕駛的過程中，人類坐在車上會感到膽戰心驚，無人駕駛是否會闖禍乘客無從得知。技術的發展與產業發展、社會發展、城市發展應當有合理的界限，而不是當新技術產生之后， 人類便停止工作，這種情形是不可能實現的。

人工智能的應用行業十分廣泛。在一些資源稀缺的行業，應當盡快推動人工智能的應用。例如在教育行業，由于資源的稀缺，西部山區的學生無法跟北京、上海等大城市的學生達到相同的英文水平。

通過一些教育類的在線產品， 使得西部學生能夠學到標準英語，這種應用普遍受到家長的歡迎，對社會的發展十分有利。再比如特大城市管理，中國人口密集的大城市在全世界排名第一，我國政府面臨的城市治理難度遠超其他國家。

隨著人類生活被人工智能廣泛滲透，公眾接受人工智能的程度也越來越高，隨之而來的是人工智能的可信問題。從國外的例子來看：

比如特斯拉“自動駕駛”致死事故，其原因在于人工智能未能識別道路清掃車；

聊天機器人被黑客教會種族主義，經過訓練以后“懂得” 了黑人與白人之間的差別，這種聊天機器人顯然不符合倫理道德，更不符合公正公平；

達芬奇手術機器人事故，其原因在于血濺到了攝像頭，導致機器人“失明”，感知系統無法正常工作；

藍牙音箱被監控的案例，由于音響失控， 結果導致用戶被鄰居投訴，最終警察誤闖民宅；

數據隱私問題，典型的例子包括人臉識別公司數據庫泄露事件等。

數據隱私種類不同，如果在特定領域大量數據被出售，那么可能會牽涉國家安全，而且數據隱私問題的級別處理相差很大，大數據存在被濫用的跡象。

導致安全隱患的原因在于“內憂”和“外患”，內憂包括樣本均衡、數據偏移、用戶隱私等。比如產品的品質問題，如果產品品質不高， 很容易產生安全隱患。外患則包括對抗攻擊、信息安全、場景受限等。

人工智能的安全類型多種多樣，主要包含三大方面。

第一是技術安全，涵蓋數據安全、網絡安全、算法安全、隱私安全，具體而言：在數據安全方面，數據安全始終處在解決的道路上，尤其體現在金融科技方面。數據尤其寶貴，技術人員利用區塊鏈技術，使得數據的安全性較高，但是并沒有充分計算去中心的管理信息的代價，銀行數據的安全性是否能夠利用區塊鏈完全解決仍值得商榷，也有諸多分析證明區塊鏈是可以被攻破的；在網絡安全方面，網信辦最重要的職能是保障網絡信息安全，在保障互聯網安全上我國已經積累了大量的經驗，同時在國家層面也有專門的隊伍進行保障，但是，對于工業網絡安全的關心相對較少。

以電網為例，美國國家電網曾經被攻破過，部分小國也出現過被攻擊的事件，一旦人工智能和工業相結合，那么工業網安全性的保障尤為值得關注；在算法安全方面，算法的工作原理需要充分解析，如果算法正確，其結果便能夠令人滿意，而算法錯誤則會導致安全問題；在隱私安全方面，隱私安全的范圍十分廣泛，雖然從倫理道德的角度有諸多分析，但是并沒有有效的辦法解決隱私安全。

第二是應用安全，涵蓋智能安防、輿情監測、金融風控、網絡防護。比如在智能安防方面，國內攝像頭的安全性令人擔憂，很容易被攻破并進行數據造假。

第三是法律與倫理，涵蓋法律法規、標準規范、社會倫理三個方面，目前在行業規范方面已經有深入研究，但是還沒有國家能夠真正制定相關標準和法律。

人工智能的創新和安全應是平衡發展，創新能夠推動安全，沒有創新，安全便沒有意義。在國際層面，已經有國家和組織提出了可信人工智能的基本準則。

首先是 G20 會議上提出的原則。

具體包括：包容性增長、可持續發展及人類福祉、以人為本的價值觀和公平、透明度和可解釋性、健壯性、信息安全與物理安全、問責制。

其次是歐盟提出的原則。

具體包括：

福祉原則——向善；

不作惡原則——無害，假設機器人與人類在同一工作崗位上，機器人出現失控并對人類造成傷害，責任主體該如何判定；

自治原則——人類能動性，假設自主系統創造了獨有的語言，人類無法讀懂，安全性的保障至關重要；

公正原則——公平，高新技術發展應當造福全人類，因此現階段應不斷完善通用人工智能的發展；

可解釋性原則——透明運行，人工智能的工作原理必須透明，這也是人類面臨的困難和挑戰。

可信人工智能包含三個要素：人、信息、物理。過去是人類社會和物理世界的交互，現在的安全是指可信安全的強人工智能系統，實現復雜的信息、物理與人的融合交互。

人工智能算法的關鍵安全問題包括：

第一， 盡量避免人工智能的副作用；

第二， 避免獎勵條件的錯誤解讀；

第三， 分布轉變的穩定性，一旦數據的分布函數轉變，過去訓練的模型可能無法工作；

第四， 探索的安全性；

第五，可擴展的監管。

從可信人工智能的特征分析，可信人工智能應具備與人類智能類似的特質。

第一，魯棒性，在人工智能的訓練過程中部分場景可能沒有出現過，因此對未知的情況應當具備一定的應對能力。

第二，自我反省，對自身性能或錯誤能夠有所感知。

第三，自適應，當人類把一個通用系統應用到新的環境中時，便應當解決自適應的問題。如果沒有自適應性，每次都需要做大量的適配工作，經濟代價便十分高昂。

第四，公平性。深度學習有時會帶來決策上的不平衡，造成種族歧視，比如在前文當中機器被教會種族主義的例證。

造成人工智能不可信任主要有兩方面的原因。

第一，傳統的軟件開發者認為，過去以傳統的方法解決新一代軟件問題，可能并沒有做好技術準備。按照過去的經驗，對軟件做假設并在給定的特殊環境下，軟件便能夠完成特殊功能。但是現在的情形有所不同，環境無從得知，但是軟件開發者能做，從這個角度而言，技術上是不成熟的。

第二，從機器學習角度分析，最后產生的目標系統主要依靠訓練數據，這與人工智能不一樣，如果數據選錯了，那么訓練的系統肯定有偏見性。機器學習尚不可驗證，無法進行軟件形式化描述，同時也不可分析，其復雜程度較高，尤其是在深度學習方面。

可信人工智能由我國提出，并在 G20 會議上被各國所認可，這也是關注人工智能發展的核心所在。人、機、物融合是當前社會面臨的一個很重要的系統狀態。如果把人、機、物中間的物理運動以及眾多事件進行組合，如何進行系統性的訓練和測試尤為重要。

除此之外，應當從系統規模、部件類型等方面推動人工智能的發展，雖然需要花費大量時間才能達成，但是技術的進步是持續性的，同時也應兼顧安全、可信，實現人工智能的健康發展。

責任編輯：韓希宇