無人值守的汽車、無人值守的高鐵、無人機……隨著人工智能技術的發展，越來越多的無人值守系統會出現在社會生活的方方面面，以更智能的姿態解放人類的雙手。但是，這些無人值守系統真的足夠智能與安全嗎？在5月16日召開的第二屆世界智能大會上，360集團董事長兼CEO周鴻祎告訴大家，人工智能本身就存在安全問題，我們必須要審慎以待。
360集團董事長兼CEO在第二屆世界智能大會上演講
周鴻祎認為人工智能自身存在的問題分為以下幾個方面。
首先是上面我們提到的無人值守系統，周鴻祎認為它們都有安全漏洞的風險，一旦被網絡劫持，將帶來嚴重的安全問題。
比如，過去的武器像機槍是控制在戰士手里的，由人來判斷和扣動扳機。一旦在軍事上越來越多地引入人工智能技術，假如未來用人工智能做成智能機槍以后，它就可以自己發現目標和自動射擊。如果這樣的系統哪天不小心被黑客控制了，他就可以遠程來控制武器射擊，濫殺無辜，造成的后果非?？膳?。
第二，人工智能所依賴的傳感器、訓練數據和使用的開源軟件等都可能存在安全隱患，比如傳感器可以被干擾，系統自身也可以被欺騙或入侵。
周鴻祎舉例稱，360安全團隊就曾在測試中利用超聲波干擾技術成功實現對特斯拉的欺騙，，讓它相信前方的障礙物并不存在。360安全團隊也因為上報了這個漏洞，進入了特斯拉名人堂?！?。
再比如，近年來出現的針對智能設備的海豚音攻擊行為，黑客通過產生一些無意義的超聲波信號，雖然人無法聽見，卻可以被手機、智能家居以及智能汽車等智能設備的語音控制系統接收到。黑客再利用麥克風的硬件漏洞進行自動解調恢復出原始的語音命令，就可以悄悄開啟智能手機、智能家居、智能汽車的語音助手，然后隨意撥打電話、發短信、視頻通話，或者將設備切換到飛行模式等操作。
第三，人工智能還有一個問題，就是現在的人工智能還只是一種拼命用大量數據訓練出來的概率判斷系統，遠遠稱不上完善。
周鴻祎表示，人工智能也許可以有99.99%的概率保證識別是正確的，但是對于安全來講，它只要出現一次識別錯誤，就會造成嚴重后果。
前段時間，Uber公司改裝后的自動駕駛測試車在美國撞死了一位女士，充分表明今天的人工智能技術并不是一個完備體系。Uber的那輛汽車當時處于光線很暗的環境中，那位女士穿了件黑色衣服，在這種很復雜的情況下，汽車的人工智能沒有做出任何判斷，甚至沒有減速，最終釀成了悲劇。
第四，現在的人工智能系統大多使用開源軟件和架構，這里面的安全漏洞很多。
人工智能都是靠軟件代碼實現的，是經過數據訓練的運行邏輯，而且現在規模越來越龐大。大家都在用的智能手機，代碼已經超過一億行，更不用說智慧城市、核電站等復雜系統了。這些代碼都是人寫出來的，只要是人寫出來的就可能存在漏洞。
“過去幾年，我們的人工智能安全團隊對目前最流行的深度學習框架進行了一些研究，發現了幾十個開源系統的安全漏洞?！敝茗櫟t說道。
在去年的中國互聯網安全大會上，360現場演示了全球首個通過攻擊深度學習應用來進行遠程控制的實例，對大家的觸動很大，也引起了許多人對人工智能自身安全問題的擔憂。
周鴻祎在演講中強調，智能技術的應用將打通虛擬世界和現實世界的界限，對網絡空間的攻擊可以直接穿透虛擬空間，映射到物理空間安全，產生物理損失和物理傷害。因此，周鴻祎認為網絡安全威脅已經從網絡空間，擴展到國家安全、國防安全、關鍵基礎設施安全、社會安全、城市安全，乃至人身安全?？梢哉f，隨著智能經濟發展，網絡安全已經進入了“大安全”時代。當人工智能、智能經濟這些熱門詞匯開始受到關注時，我們更要居安思危，共同守護網絡空間與物理世界的安全。
人妻精品一区二区三区_好紧好湿好硬国产在线视频_亚洲精品无码mv在线观看_国内激情精品久久久責任編輯：韓希宇
免責聲明：
中國電子銀行網發布的專欄、投稿以及征文相關文章，其文字、圖片、視頻均來源于作者投稿或轉載自相關作品方；如涉及未經許可使用作品的問題，請您優先聯系我們（聯系郵箱：cebnet@cfca.com.cn，電話：400-880-9888），我們會第一時間核實，謝謝配合。
