幾年前，學術界曾進行調查，訪問世界頂尖人工智能（AI）專家，問他們「AI何時會有成年人類的思考力？」，多數答案是2040至2050年，換言之是距今二三十年。
AlphaGo去年以慢棋4比1戰勝圍棋職業九段高手李世石，AI震驚世界。1997年IBM「深藍」擊敗西洋棋世界冠軍後，直至2015年電腦最佳戰績僅能達圍棋業餘五段。李敗陣未滿一年，帳號「Master」以快棋60比0橫掃逾20名職業高手，真身就是「棋靈王」AlphaGo第二代，其自學能力已遠超人類理解範圍。
一場人類命運的辯論正式拉起帷幕。AlphaGo由DeepMind進行研發，該公司創辦人Demis Hassabis曾推出遊戲《邪惡天才》，主角科學家為統治世界，創造出末日設備。在科技界，Demis Hassabis及Elon Musk站在AI正反方。前者曾拜訪後者的火箭工廠SpaceX。
Elon Musk說：「我們要殖民火星，就是怕有朝AI攻擊人類，我們還有藏身之地。」Demis Hassabis隨即笑着回應：「那AI都會追到火星！」Elon Musk甚至恐怕Google創辦人Larry Page也是「雖有良好意願，卻意外造出邪惡機械人」。2014年Google收購DeepMind時，條款就包括「雙方必須組建倫理委員會」。
「23條」規範發展
「人工智能有強弱之分。」華為諾亞方舟實驗室主任李航向本刊解釋，弱者部分實現人類智能；強者則完美實現人類智能，甚至超出人類智能。他比較過人腦和計算機，兩者規模已經相當。「處理速度上，計算機基本已經是人腦100萬倍。」
「2075年機器就會達到人類智慧90%」，牛津未來智能研究所創辦人Nick Bostrom預言。去年12月白宮就連發3份報告要為AI做好準備、9月美國五大科企罕有進行AI合作，連歐盟都在探討道德問題。專家恐懼「強人工智能」，今年1月逾2000位業界就聯署23條發展原則，包括Demis Hassabis及Elon Musk。
物理學家霍金就三番四次警告人類， 指AI已開始站穩陣腳，未來將為人類帶來末日，「蘋果Siri、Google Now和微軟Cortana只是IT軍備競賽的預兆」。他從不否認AI會帶來好處，但強調其威脅乃源自人類本身──貪婪和愚蠢。「6年前，我警告過污染和人口膨脹，但現在變本加厲。過去5年，空氣污染加劇，二氧化碳排放量不斷上升；若目前速度持續，到2100年全球人口將達110億。」Elon Musk也認同霍金說：「有時候科學家太埋首於自己世界，往往未能意識到所作所為有何後果。」
節錄自5月號《信報財經月刊》
Android揭頁版
iOS揭頁版
訂閱印刷版
