中國工程院院士方濱興：內生安全問題可能成為人工智能“死穴”

163萬字 573人讀過

原標題：中國工程院院士方濱興：內生安全問題可能成為人工智能“死穴”

　　從自動駕駛到智能家居，近兩年，人工智能技術和應用發展迅速，科幻電影中曾經描繪的“人機共存”時代，似乎離人類越來越近。然而，人工智能足夠安全嗎？4月20日，在2019西湖論劍·網絡安全大會上，中國工程院院士倪光南、鄔江興、方濱興和楊小牛，表達了他們對人工智能潛在風險的思考和隱憂。

中國工程院院士共話網絡安全。

25年前的今年，中國全功能接入國際互聯網，就此拉開中國互聯網的發展序幕，全社會的經濟、文化、生活方式迎來深刻變革。

中國工程院院士鄔江興仍然記得當年的場景。他說，大家感到“歡新鼓舞”，各行各業都在倡導“互聯網+”。但在發展伊始，網絡安全問題沒有得到足夠重視，導致了現在的很多遺留問題。

2014年，中共中央總書記習近平在中央網絡安全和信息化領導小組第一次會議上強調，網絡安全和信息化是一體之兩翼、驅動之雙輪，必須統一謀劃、統一部署、統一推進、統一實施。做好網絡安全和信息化工作，要處理好安全和發展的關系，做到協調一致、齊頭并進，以安全保發展、以發展促安全，努力建久安之勢、成長治之業。

鄔江興深以為然。但他也坦言，同步安全和發展，對于全人類而言都是挑戰。如今，人工智能應用正像互聯網一樣進入日常生活，各行各業須及早考慮人工智能的安全問題，否則就會重走當年的老路?！安还苁鞘裁磫栴}都會有副作用，必須在發展的初期來解決?！彼f。

中國工程院院士楊小牛，也有類似擔憂：“人工智能會不會又像互聯網一樣，剛開始不考慮它自身的安全，最后發現存在各種各樣的問題，面臨相當大的風險？”他認為，將來，如何讓算法更加安全、可靠，是一個突出問題。

中國工程院院士方濱興提出，人工智能的內生安全問題，可能成為其“死穴”。例如，一個被貼上幾張小廣告的停車標志牌，人看到標志牌會覺得毫無差別，但算法識別就會出現錯誤。

方濱興介紹，這樣的錯誤，與人工智能的內生原理有關。人工智能靠大量的數據和神經網絡學習，人能夠看到人工智能的處理結果，但神經網絡中還有很多人看不到的隱含層。因此，幾個小廣告，甚至是像素點的改變，都會導致人工智能處理錯誤。

“現在要關注網絡安全的新挑戰”，中國工程院院士倪光南說，新技術帶來了許多傳統安全領域沒有的新問題、新現象，必須予以重視。以自動駕駛汽車為例，如果黑客通過網絡攻擊獲得了控制權，自動駕駛汽車就會變得非常危險。

采寫：南都記者馮群星 蔣琳

作者：馮群星 蔣琳

---

相關： 中國工程院院士方濱興：內生安全問題可能成為人工智能“死穴”一共多少個字、 中國工程院院士方濱興：內生安全問題可能成為人工智能“死穴”在線聽、 中國工程院院士方濱興：內生安全問題可能成為人工智能“死穴”迅雷、 中國工程院院士方濱興：內生安全問題可能成為人工智能“死穴”王爺、 中國工程院院士方濱興：內生安全問題可能成為人工智能“死穴”無彈窗、 中國工程院院士方濱興：內生安全問題可能成為人工智能“死穴”女主、 中國工程院院士方濱興：內生安全問題可能成為人工智能“死穴”快穿、 中國工程院院士方濱興：內生安全問題可能成為人工智能“死穴”好看嗎

推薦分類閱讀： Tod’s 集團董事長：戰略變革開始收效，電商渠道以高兩位數增長、 習近平總書記在深度貧困地區脫貧攻堅座談會上的重要講話引起強烈反響、 王者榮耀或迎毀滅打擊？廣電總局：抽獎必須精確到抽幾次能中！、 習近平總書記在深度貧困地區脫貧攻堅座談會上的重要講話引起強烈反響、 李克強會見巴西聯邦共和國總統、 春天多喝這道菌菇湯，我家隔天做一次，每次上桌一滴不剩！、 中國長三甲系列運載火箭實現100次發射、 習近平總書記在深度貧困地區脫貧攻堅座談會上的重要講話引起強烈反響、 “2017最具期待數字平臺競標晚宴”圓滿落幕、 4分鐘速覽《大國外交》之《東方風來》、 神吐槽：潘金蓮狀告導演 西門慶也應當被告、 “2017最具期待數字平臺競標晚宴”圓滿落幕、 想美有氣質就該這樣穿！針織衫搭配連衣裙優雅氣質，穿出強大氣場

---

---

最新章節：第8958章 中國工程院院士方濱興：內生安全問題可能成為人工智能“死穴”（5個月前）

更新時間：8個月前