央廣網(wǎng)北京4月2日消息 近期，中國工程院公布2021年世界十大科技進(jìn)展，其中多項與人工智能有關(guān)。作為一種新興技術(shù)，沒有哪種技術(shù)像人工智能那樣正深刻地改變著人類社會生活和世界，與此同時，跟諸多技術(shù)一樣，人工智能也必然會面臨安全問題，由于人工智能應(yīng)用的廣泛性、影響的深入性，其安全有其特殊性，尤其應(yīng)該引起重視。

我國站在戰(zhàn)略高度重視人工智能的安全問題和自主可控問題，要求確保人工智能“一安兩可”，即安全、可靠、可控，在國家多項政策指引下，中國工程院組織院士專家開展了廣泛深入研究，形成《新一代人工智能安全與自主可控戰(zhàn)略研究綜合報告》。

實現(xiàn)“一安二可”面臨六大風(fēng)險、五大挑戰(zhàn)

區(qū)別于一般的工程和信息系統(tǒng)，人工智能安全主要指由于具有學(xué)習(xí)能力、自主決策、自主行動等智能行為，人工智能系統(tǒng)在運行中會產(chǎn)生兩個方面的安全問題，一是內(nèi)生安全問題，二是衍生安全問題。內(nèi)生安全問題主要是指設(shè)計、制造、使用環(huán)境受到攻擊時會產(chǎn)生安全問題，衍生安全問題是由于人工智能技術(shù)的應(yīng)用而引申出來的對其他系統(tǒng)安全的影響問題。值得注意的是，人工智能的安全要靠系統(tǒng)自身產(chǎn)生，所以一般認(rèn)為提高系統(tǒng)自身的可靠性、穩(wěn)定性和抗攻擊能力，安全性能便會提升。同時，人工智能安全需要綜合治理，需要標(biāo)準(zhǔn)和規(guī)范、道德和倫理、政策導(dǎo)向和法律法規(guī)等諸多方面聯(lián)合發(fā)力。

目前，人工智能面臨六大安全風(fēng)險。風(fēng)險一，人工智能的系統(tǒng)故障會引發(fā)安全問題，集中體現(xiàn)在交通、醫(yī)療衛(wèi)生、制造等領(lǐng)域，人工智能在這些一旦發(fā)生安全問題將直接對人類生命財產(chǎn)安全造成威脅。風(fēng)險二，人工智能在應(yīng)用過程中存在隱私盜取、欺詐等問題。風(fēng)險三，人工智能的應(yīng)用也會對經(jīng)濟、社會產(chǎn)生沖擊，比如人工智能替代人產(chǎn)生的就業(yè)問題如何解決等。風(fēng)險四，人工智能濫用產(chǎn)生虛假信息，引起政治、社會、國家安全問題如何杜絕。風(fēng)險五，人工智能應(yīng)用到戰(zhàn)爭領(lǐng)域，對國際政治、軍事、外交、國際治理體系等產(chǎn)生沖擊。最后，風(fēng)險六，人工智能發(fā)展產(chǎn)生倫理安全風(fēng)險與法治方面也是空白。可以說，人類在享受人工智能帶來的便捷的同時，安全問題也鋪天蓋地而來。

在我國，人工智能安全與自主可控方面面臨五大挑戰(zhàn)。挑戰(zhàn)一，雖然應(yīng)用方面確實走在世界前列，但缺乏人工智能安全的原創(chuàng)性、引領(lǐng)性核心理論和關(guān)鍵技術(shù)，這也是一項世界性難題。由于這些基礎(chǔ)問題沒有解決，應(yīng)用層面潛在的安全問題也逐漸暴露，因此呼吁業(yè)界不僅要集成創(chuàng)新，更要重視理論創(chuàng)新，原始創(chuàng)新。挑戰(zhàn)二，缺乏相對獨立完整的產(chǎn)業(yè)鏈和健全的生態(tài)鏈，自主可控能力較弱，關(guān)鍵技術(shù)、核心產(chǎn)品、芯片等安全可控的風(fēng)險很大。挑戰(zhàn)三，缺乏領(lǐng)域內(nèi)國際頂級和領(lǐng)袖人才。挑戰(zhàn)四，缺乏針對人工智能安全的標(biāo)準(zhǔn)風(fēng)險評估和管控體制。挑戰(zhàn)五，缺乏面向人工智能安全的道德和倫理規(guī)范及相應(yīng)的法律法規(guī)。人工智能算法生產(chǎn)和運用過程中的算法黑箱和歧視問題，易引發(fā)平等和公平的危機。

三步走、四舉措助力人工智能安全可控可靠

雖然安全和自主可控挑戰(zhàn)和風(fēng)險巨大，但不能因噎廢食，要迎難而上，在危機中占有先機，讓新一代人工智能技術(shù)更好造福人類。

從發(fā)展路徑來說，要走一條獨立自主、求實創(chuàng)新、統(tǒng)籌規(guī)劃和綜合治理的道路，選擇影響我國人工智能安全與自主可控健康發(fā)展的理論技術(shù)、產(chǎn)業(yè)應(yīng)用的關(guān)鍵問題，綜合國家和社會力量，集中力量辦大事，綜合運用技術(shù)、標(biāo)準(zhǔn)、法律、倫理措施，分領(lǐng)域有步驟地實現(xiàn)人工智能安全、可靠、可控的世界強國目標(biāo)。

具體來說，人工智能可以考慮分三步走，“十四五”時期，重點解決內(nèi)生安全、衍生安全、賦能安全等一批“卡脖子”的問題，掌握一批基礎(chǔ)理論、關(guān)鍵技術(shù)、核心產(chǎn)品。2035年，突破人工智能安全基礎(chǔ)理論關(guān)鍵技術(shù)，若干自主研制的理論技術(shù)能夠達(dá)到國際先進(jìn)和領(lǐng)先水平；2050年，人工智能安全與自主可控技術(shù)全面支撐智能經(jīng)濟和社會發(fā)展，國防和國家安全，同時人工智能安全與自主可控技術(shù)、創(chuàng)新發(fā)展能力、產(chǎn)業(yè)體系以及融合應(yīng)用等全面達(dá)到世界先進(jìn)水平，并且一批基礎(chǔ)理論、關(guān)鍵技術(shù)、核心產(chǎn)品產(chǎn)業(yè)應(yīng)用達(dá)到世界領(lǐng)先水平，從而使得人工智能安全技術(shù)綜合實力進(jìn)入世界強國。

為此需要實現(xiàn)四點舉措，抓基礎(chǔ)研究和技術(shù)創(chuàng)新，抓標(biāo)準(zhǔn)、評測、法律、法規(guī)體系建設(shè)，抓構(gòu)建應(yīng)用與產(chǎn)業(yè)發(fā)展生態(tài)，最后也是最關(guān)鍵的是人才隊伍建設(shè)，要培養(yǎng)一支人工智能安全領(lǐng)域戰(zhàn)略科技力量。

（本文整理自中國工程院院士陸軍在第六屆創(chuàng)新與新興產(chǎn)業(yè)發(fā)展國際會議上的發(fā)言）