人工智能正在路上 “超級智能”之路又在何方？ 2016年09月27日10:21 來源：證券時報網|
如果你了解過關于人工的各種觀點，那么可能會非常擔心“超級智能”，或者說“殺手人工智能”的出現。
人工智能正在路上“超級智能”之路又在何方？
《麻省理工科技評論》近期刊登了艾倫人工智能研究所CEO、華盛頓大學計算機科學教授奧林·艾奇奧尼（OrenEtzioni）的文章，分析了超級人工智能出現的可能性。艾奇奧尼的研究結論是，超級智能在可預見的未來還不會出現。
《麻省理工科技評論》中發表的文章與報告觀點基本類似，以下為文章全文：
如果你了解過關于人工智能的各種觀點，那么可能會非常擔心“超級智能”，或者說“殺手人工智能”的出現。近期英國《衛報》警告稱，“我們就像是在玩炸彈的小孩”，《周刊》則指出“人工智能正在到來，有可能徹底消滅我們”。
在伊隆·馬斯克（ElonMusk）和史蒂芬·霍金（StephenHawking）等人觀點的支撐下，許多媒體都有過這樣的報道。實際上，這種觀點來自一個人的研究成果：英國教授尼克·博斯特羅姆（NickBostrom），哲學著作《超級智能：道路、危險和策略》的作者。
博斯特羅姆是牛津大學哲學家，而對風險的量化評估則是保險精算學的領域。他或許被認為是全球首位“精算哲學家”。考慮到哲學是一種概念論證學科，而風險評估則是由數據驅動的統計學工作，因此這樣的頭銜顯得很矛盾。
那么，數據告訴我們什么？2011年，作為希臘人工智能協會的成員，博斯特羅姆參加了在希臘塞薩洛尼基舉辦的“人工智能哲學和理論”大會。當時，他整理了4項調查的結果，并給出了人腦水平人工智能在不同時間點出現的可能性：
2022年：10%。
2040年：50%。
2075年：90%。
關于人腦水平人工智能的發展，博斯特羅姆撰寫了一份300頁的哲學論證，而這4項調查是最主要的數據來源。
為了更準確地評估行業領先研究者的意見，我尋求了美國人工智能協會（AAAI）會士們的幫助。這些研究員對人工智能的研究做出了重要而持續的貢獻。
2016年3月初，AAAI幫我發出了一份匿名調查問卷，向193名會士提出了以下問題：“在他的書中，尼克·博斯特羅姆將超級智能定義為‘在各個實際領域，包括科學創造力、一般常識和社會技能等方面，比最出色人腦還要更聰明的智能’。你們認為，我們何時將會看到超級智能？”
在隨后的一周多時間里，80名會士做出了回復（回復比例為41%）。他們的回復總結如下：
92.5%的受訪者認為，在可預見的未來超級智能不會出現。這一觀點也得到了許多會士書面內容的支持。
即使調查是匿名的，44名會士仍決定實名回復。這其中包括深度學習先驅吉奧夫·辛頓（GeoffHinton）、來自斯坦福大學的圖靈獎獲得者埃德·菲恩鮑姆（EdFeigenbaum）、領先的機器人羅尼·布魯克斯（RodneyBrooks），以及谷歌的皮特·諾維格（PeterNorvig）。
受訪者也給出了更多看法，摘錄如下：
“可能還需要超過25年時間。更有可能還要幾個世紀。但不可能永遠無法實現。”
“我們正在與人腦數百萬年的進化展開競爭。我們可以編寫單一目的程序，匹敵人類，有時甚至勝過人類。然而，世界并不是由多個單一問題組成的。”
“尼克·博斯特羅姆是職業恐慌傳播者。他的研究所扮演的角色就是尋找人類的現存威脅。他在各種地方都能看出威脅來。我傾向于將他稱作人工智能領域的特朗普。”
這種調查的科學價值有限。問題表述和受訪者的選擇都可能會對結果帶來影響。然而，這也是博斯特羅姆參考的一種數據來源。
另一種研究方法是根據人工智能當前的發展去推斷未來的趨勢。然而這也很困難，因為我們還無法確定當前人腦水平智能的量化指標。我們已經在象棋和圍棋等領域實現了超級智能，但正如艾倫研究所的研究顯示，我們的程序在美國8年級科學考試中還無法及格。
關于人工智能我們有很多方面的擔心，無論是對就業崗位的影響，還是自動化武器系統，甚至超級智能的潛在風險。然而，當前的數據并沒有表明，超級智能將在可預見的未來誕生。與此同時，悲觀預測通常沒有看到人工智能給人類帶來的幫助，例如預防醫療失誤和減少事故。
此外，人類未來有可能與人工智能系統合作，開發出共生的超級智能。這將與博斯特羅姆設想的有害的超級智能存在很大不同。
責任編輯：黎晉
