央廣網北京4月2日消息 近期，中國工程院公布2021年世界十大科技進展，其中多項與人工智能有關。作為一種新興技術，沒有哪種技術像人工智能那樣正深刻地改變著人類社會生活和世界，與此同時，跟諸多技術一樣，人工智能也必然會面臨安全問題，由于人工智能應用的廣泛性、影響的深入性，其安全有其特殊性，尤其應該引起重視。

我國站在戰略高度重視人工智能的安全問題和自主可控問題，要求確保人工智能“一安兩可”，即安全、可靠、可控，在國家多項政策指引下，中國工程院組織院士專家開展了廣泛深入研究，形成《新一代人工智能安全與自主可控戰略研究綜合報告》。

實現“一安二可”面臨六大風險、五大挑戰

區別于一般的工程和信息系統，人工智能安全主要指由于具有學習能力、自主決策、自主行動等智能行為，人工智能系統在運行中會產生兩個方面的安全問題，一是內生安全問題，二是衍生安全問題。內生安全問題主要是指設計、制造、使用環境受到攻擊時會產生安全問題，衍生安全問題是由于人工智能技術的應用而引申出來的對其他系統安全的影響問題。值得注意的是，人工智能的安全要靠系統自身產生，所以一般認為提高系統自身的可靠性、穩定性和抗攻擊能力，安全性能便會提升。同時，人工智能安全需要綜合治理，需要標準和規范、道德和倫理、政策導向和法律法規等諸多方面聯合發力。

目前，人工智能面臨六大安全風險。風險一，人工智能的系統故障會引發安全問題，集中體現在交通、醫療衛生、制造等領域，人工智能在這些一旦發生安全問題將直接對人類生命財產安全造成威脅。風險二，人工智能在應用過程中存在隱私盜取、欺詐等問題。風險三，人工智能的應用也會對經濟、社會產生沖擊，比如人工智能替代人產生的就業問題如何解決等。風險四，人工智能濫用產生虛假信息，引起政治、社會、國家安全問題如何杜絕。風險五，人工智能應用到戰爭領域，對國際政治、軍事、外交、國際治理體系等產生沖擊。最后，風險六，人工智能發展產生倫理安全風險與法治方面也是空白。可以說，人類在享受人工智能帶來的便捷的同時，安全問題也鋪天蓋地而來。

在我國，人工智能安全與自主可控方面面臨五大挑戰。挑戰一，雖然應用方面確實走在世界前列，但缺乏人工智能安全的原創性、引領性核心理論和關鍵技術，這也是一項世界性難題。由于這些基礎問題沒有解決，應用層面潛在的安全問題也逐漸暴露，因此呼吁業界不僅要集成創新，更要重視理論創新，原始創新。挑戰二，缺乏相對獨立完整的產業鏈和健全的生態鏈，自主可控能力較弱，關鍵技術、核心產品、芯片等安全可控的風險很大。挑戰三，缺乏領域內國際頂級和領袖人才。挑戰四，缺乏針對人工智能安全的標準風險評估和管控體制。挑戰五，缺乏面向人工智能安全的道德和倫理規范及相應的法律法規。人工智能算法生產和運用過程中的算法黑箱和歧視問題，易引發平等和公平的危機。

三步走、四舉措助力人工智能安全可控可靠

雖然安全和自主可控挑戰和風險巨大，但不能因噎廢食，要迎難而上，在危機中占有先機，讓新一代人工智能技術更好造福人類。

從發展路徑來說，要走一條獨立自主、求實創新、統籌規劃和綜合治理的道路，選擇影響我國人工智能安全與自主可控健康發展的理論技術、產業應用的關鍵問題，綜合國家和社會力量，集中力量辦大事，綜合運用技術、標準、法律、倫理措施，分領域有步驟地實現人工智能安全、可靠、可控的世界強國目標。

具體來說，人工智能可以考慮分三步走，“十四五”時期，重點解決內生安全、衍生安全、賦能安全等一批“卡脖子”的問題，掌握一批基礎理論、關鍵技術、核心產品。2035年，突破人工智能安全基礎理論關鍵技術，若干自主研制的理論技術能夠達到國際先進和領先水平；2050年，人工智能安全與自主可控技術全面支撐智能經濟和社會發展，國防和國家安全，同時人工智能安全與自主可控技術、創新發展能力、產業體系以及融合應用等全面達到世界先進水平，并且一批基礎理論、關鍵技術、核心產品產業應用達到世界領先水平，從而使得人工智能安全技術綜合實力進入世界強國。

為此需要實現四點舉措，抓基礎研究和技術創新，抓標準、評測、法律、法規體系建設，抓構建應用與產業發展生態，最后也是最關鍵的是人才隊伍建設，要培養一支人工智能安全領域戰略科技力量。

（本文整理自中國工程院院士陸軍在第六屆創新與新興產業發展國際會議上的發言）