新華社天津5月18日電(記者翟永冠 尹思源)公安指揮中心建設、智能人臉識別、“特警”機器人、智慧醫療……第二屆世界智能大會正在天津舉行,一系列著眼于公共安全、生命健康的智能科技亮相,給人們提供更多的“安全感”。隨著人工智能技術應用越來越廣,如何解決人工智能系統中存在的安全漏洞和潛在風險,已引起業界更多關注。

5月17日,觀眾在天津梅江會展中心智能科技展上參觀深之藍的水下機器人。新華社記者 李然 攝

智能科技發展帶來更多“安全感”

著眼于公共安全的“城市安全大腦”、著眼于個人健康安全的智慧醫療、代替人從事危險工作的機器人……在第二屆世界智能大會上,記者看到,人工智能技術的發展為人們帶來更多保護,有效化解公共安全風險、維護個人身體健康安全,成為人工智能發展帶來的好處之一。

迅速識別犯罪分子、提供智慧消防服務、幫助警察收集現場蛛絲馬跡并智能分析,多款著眼于維護公共安全的智能科技吸引人們圍觀。天津中環系統工程有限公司“城市安全大腦”項目負責人劉哲說,城市安全大腦將指揮消防系統、智能安防系統、巡檢運維系統、動態人臉識別等集納在一起,成為城市公共安全的指揮中心。“以被銀行、醫院等廣泛采用的智能安防為例,可以迅速識別不良行為,天津的一家三甲醫院每天可以發現三四名‘慣偷’,有效維護公眾人身財產安全。”劉哲說。

在個人健康安全方面,智慧醫療系統提供個人健康顧問系統解決方案,實現個人健康大數據收集和分析,及時實施健康干預,更好地維護個人身體健康安全。科大訊飛高級副總裁江濤介紹,科大訊飛近年來在人工智能領域取得技術突破和成果,將會在智慧醫療、智慧家庭等行業領域廣泛應用。

智能科技帶來的安全風險與日俱增

人工智能發展在維護生活安全的同時,其帶來的安全風險也不容忽視。與會專家和業內人士表示,人工智能所依賴的傳感器和使用的開源軟件等都可能存在安全隱患。

“當網絡受到攻擊時,你可能遇到不能網上訂餐、購物、約車,甚至做不了手術、機動車上不了牌照等問題。”周鴻祎說。

——隱私泄露。“我們所享用的網絡服務比我們自己更懂我們自己”。攝像頭無處不在,個人信息在網絡世界頻頻“裸奔”,個人信息和隱私的保護也日益嚴峻。IBM全球安全事業部網絡風險管理合伙人查理·辛格說,歐洲最新的通用數據保護條例里,特別規定了數據主體對于個人數據的權利,對用戶拍照行為有特別嚴格的限制。

——攻擊智能經濟。周鴻祎說,智能經濟已經成為網絡攻擊選取的目標。在“軟件定義一切,萬物皆可互聯”的同時,網絡攻擊已經開始威脅智能經濟的健康發展。比如,2017年5月發生的勒索病毒事件,全球150多個國家受到影響,中國也有大量工業企業中招。

——劫持智能設備。人工智能會用于許多無人值守系統,一旦被網絡劫持,將帶來嚴重的安全問題。比如智能汽車都是可以用手機進行控制的,要跟車廠的服務器保持連接,定期更新軟件保證汽車的駕駛模式。智能汽車可以聯網,用手機可以遠程打開車門和空調,也有可能被網絡劫持。

智能時代,如何更好維護安全?

中國科協主席萬鋼說,人工智能在國家安全、生產安全、社會安全和金融安全的風險防范和管理控制要給予高度重視。“沒有網絡安全,就沒有國家安全。”在人工智能發展成為雙刃劍的背景下,如何給人更多“安全感”?

首先,要建立有效安全防護,抵御網絡攻擊。中國工程院院士,北京工業大學教授沈昌祥認為,應該建立主動免疫的計算架構,對計算進行安全防護,使計算全程可測可控,不被干擾。此外,要有以密碼為基因的防護部件,對處理信息進行實時識別和排查,按照安全規則進行判別處理。

其次,利用人工智能應對網絡攻擊。查理·辛格說,“免疫系統”中不管哪個系統受到攻擊,都有統一的人工智能系統發出指令采取相應措施。“通過對網絡設備進行檢測或對數據進行掃描,一旦有一個內容受到侵襲,那么對它的數據進行分析處理,也會方便后臺采取相應的措施,以提高網絡安全的性能。”辛格說。

另外,在維護網絡安全方面,人的因素更為重要。阿里巴巴集團董事局主席馬云說:“決定世界未來的不是技術,而是技術背后的人。”

沈昌祥說,人的管理就是信息服務、策略管理,要做信息系統數據安全的守護者。“主動防護必不可少,現在的防護都是單向防護,要建立雙向防護機制,在主動防御的同時建立可信策略安全管控工作。”

另外,專家還建議要促進行業規范、企業自律和社會監督。加大對數據濫用、侵犯隱私權等行為的懲戒力度,還要考慮和研究人工智能的立法問題,形成自律、他律和法律的社會生態。