（2018-06-07）美國前國務卿季辛吉最近闡述了他對人工智慧的看法，他不是科學家、工程師，更不是AI專家，但他從政治與哲學的觀點看AI的發展、影響、前瞻，也算是AI的另一種聲音。
（2018-06-07）美國前國務卿季辛吉（Henry Kissinger）最近在《大西洋（The Atlantic）》雜誌撰文，闡述他對人工智慧（AI）的看法。
季辛吉不是科學家、工程師，更不是AI專家，但以他的歷練與高度，從政治與哲學的觀點看AI的發展、影響、前瞻，顯然是當紅AI的另一種聲音。他說人類的思維是漸續的，是前後關連（Context）的，這個關連可以看管我們的運作不超出預期的規範，而AI則是在沒有關連之下產生的結果。
他首先推崇AI會陸續給我們帶來巨大的貢獻，從醫藥科學、乾淨的能源，到環境的保護等許多領域，但也正因為AI的判斷關係著未來，產生的結果有不確定與模稜兩可的本質，所以特別提出以下三個論點來關切，或者說，是需要考慮的問題。
一、AI可能產生意外的結果：
由於先天缺乏前後關連，AI一旦誤判人類的指令，可能越過預期規範，而產生危險的後果。
他例舉，兩年前微軟推出的19歲女孩Tay，她是個機器人，放在推特與人「親和」聊天，結果遭人誘導、跟樣學樣，說出19歲女孩不該說的像種族歧視、性別歧視的話，而回答別人的問題也充滿了火藥味，上線16小時後微軟把她撤下。
兩年前，微軟推出的19歲女孩Tay。
雖然專家說這個實驗的構想不夠周全，但卻顯露了歧見：我們能不能盡早偵測到、然後矯正AI可能超出規範的行為？或是讓AI自行發展，甚至可能隨時間蛻變，擴大到災難？
二、AI達到了預期的目標，但可能改變了人類的思維順序、以及人類的價值：
AlphaGo以前所未見的異類棋步，擊敗了人類頂級圍棋高手，這些棋步，人類從未想過、也還不知道如何才學到這些棋步，那是不是說AIphaGo已經超越人類的腦力？或者是人類現在要跟這位「新主人」學習？
韓國頂級圍棋手李世石與AlphaGo 對奕。
圍棋的傳統有多重目標，下棋的目的不僅在贏，還可以從中學習策略，潛移默化的運用到生活範疇。但AI僅知道一個目標：贏，但不是從概念的學習到贏，而是從數學算術法學習到贏，所以，AI的棋步策略不會與人的棋步思維相同，AI也同時改變了圍棋原有的意涵與影響。
我們不經要問，這種單一「贏」的思維，是否會成為AI的共有特質，進而演變成人類的價值？難道以後要我們的子孫，從算術法學習人的價值？
AI學習的速度遠超過人類，所以我們預期AI會比人類更快的發生錯誤，也會製造更大的錯誤。但減緩錯誤，僅用「倫理」與「理性」來警告AI產生的結果，效果有限，因為學術界還無法定義這些名詞。那AI是否作自己的仲裁人？
三、AI達到預期目標，但無法解釋結果的合理性：
AI在很多領域已經超過人類，圖像辨識、數據分析、博奕遊戲，如果計算能力不斷成長，AI很快就會取得解決問題的最佳方法，而有別於人類如何取得的最佳方法，到那時候，AI能否告訴人類他的方法為什麼比人類的更好？或者是AI的抉擇已經不是人類語言能力所能解釋？
人類的歷史是漸進的，從中世紀到現在，每一階段都有一主軸。中世紀：宗教；啟蒙年代（Enlightment）：理性；十九世紀：歷史；二十世紀：思想。現在，最困難也是最重要的問題，是我們的世界往哪裡走？如果我們連解釋自己的能力都被AI越過，就難以想像人類的意識（Consciousness）還剩下什麼？
歷史的發展，是由哲學的內涵，延續發展到新的技術，但我們現在正走相反的路，先發展有潛力的主導技術，然後再尋找導引的哲學。季辛吉說，AI的專家們，對於政治與哲學的缺乏經驗，正如同他對技術知識的不足，希望他們能深思他提出來的問題，然後把答案融入AI工程的下一個進程。
許多國家已經將AI列入國家計畫，美國還沒有做到AI系統化的全面研究，尤其是在人性傳統的考量，務必列為國家優先事務。他呼籲美國政府要建立總統直屬的AI智庫，協助發展國家的遠景，如果不迅速啟動，很快就會發現起步太遲了。
*本文取材自2018年6月5日「那福忠西海岸數位隨筆（52）」：季辛吉談人工智慧
對本文有任何看法，歡迎 E-Mail：frank.na@gmail.com 與作者分享。
