包括人工智能在內，人類的創造物是否會和我們站在同一邊？是否會成為奴役我們的力量？這些問題的答案不在工具，而在人類自身。

“阿爾法圍棋”和韓國棋手李世石的世紀大戰，終于以“阿爾法狗”4:1獲勝而宣告落幕。如果從科學發展角度來看，這不僅是一次人類和人工智能的大對決，而是人類對未知領域的又一次科學實驗，也必將從此掀開人工智能科學研發的新序幕。

今天的人工智能，已經成為涉及哲學、計算機、心理學、博弈論等領域的交叉學科，“阿爾法狗”的算法技術和數據處理能力已經遠超“深藍”。在新一輪科技和產業革命中，人工智能的產業化應用是一大動力源。無論是德國的工業4.0，還是美國的“再工業化”，抑或是中國的“互聯網+”，人工智能的研發都是重點，被視為經濟社會發展的動力源。

但對人工智能，除了歡迎，也有警惕。其發展的每一步，都與英國數學家圖靈“機器能思考嗎”的詰問相伴。以機器人為代表的人工智能是否會取代人類、站到人類對立面？這早已成為諸多科幻電影的題材，由施瓦辛格主演的《終結者》中的天網Skynet成為了最可怕的人工智能的代名詞，理論物理學家霍金也憂慮：“人工智能的完全發展會導致人類的終結。”

人工智能會發展到什么程度？作為普通人，我們無法準確預測，因為目前的人工智能尚處于“有智能沒智慧、有智商沒情商、會計算不會‘算計’、有專能無全能”的階段。然而就在“阿爾法狗”與李世石大賽期間，谷歌一位資深人工智能工程師接受專訪，認為在10年內，有知覺和自我意識的強人工智能可以實現，那時人工智能可以寫小說，而且有發展到天網水平的可能。

如果這真是10年內的結果，那么人類真的需要趕緊思考人工智能與人的關系了。對人工智能可能帶來的安全與倫理問題，歐盟、日本、韓國等已經著手開展政策研究與立法實踐。事實上，谷歌在收購“阿爾法圍棋”的研發者——“深度思維”公司的條款中有一項，就是必須成立人工智能道德委員會，由來自科學、哲學多領域的人員監督通用人工智能技術的未來應用。

世界上最強大的力量應當是人類本身，而不是一把鐵鍬或者核潛艇。人類制造的產物不講道德和感情，但它們擁有力量，這種力量的快速增長往往讓人類感到恐懼。包括人工智能在內，人類的創造物是否會和我們站在同一邊？是否會成為奴役我們的力量？這些問題的答案不在工具，而在人類自身。

筆者想到了法國思想家帕斯卡爾的名言：“人是一棵有思想的蘆葦。”面對人工智能以及一個個可能帶來異化的事物，我們需要的正是“思想”，也只有“思想”才能解決這些難題。

□殷紅博（科學教育學者）