摘要：要物質運作基礎，關鍵在於是否展演出心靈的能力。AI沒有內在觀點，但是可以自我觀察，也可以展演出具有心靈能力的外觀功能，與人類進行互動溝通。即使明知對方是AI，人們仍願意將其視為人類。這主要是因為社會關係與互動方式，早已經社會功能化，只要能完成這些功能，是由人類或AI來進行，並無差異。具有人類外觀的機器人AI並不是真正的挑戰。真正的問題在於，社會功能大量由AI所履行的演算法社會已經逐漸浮現。而我們並不清楚，不具備內在觀點與自主意識的演算法，會以如何的發展速度與運作結構，來取代既有的社會功能履行方式，並進而產生現在尚無法清楚預估的高複雜度系統風險。關鍵詞：人工智慧、墨闇碑、心靈、內在觀點、社會功能、演算法社會一、闇黑有形：由墨闇碑（monolith）談起轉眼時序已到年，21世紀的腳步早就把千禧蟲的時代轉換焦慮拋諸腦後。時至今日，不但複製生命、基因改造等科技已經不再是熱門話題，人工智慧（ArtificialIntelligence，簡稱AI）似乎也逐漸成為生活內容的新常態。正好半個世紀前，導演StanleyKubrick在其劃時代科幻作品《太空漫遊》（:ASpaceOdyssey,，以下簡稱《》）中所展現的意象與意涵（significance），[1]卻仍對當前議題具有高度的相關性與啟發性。持續關注者甚至發展出各種理論來說明此一電影作品的意義（Kr?mer,）。擺開眾多複雜層面的討論，《》與本文關連，也是筆者相當關心的影像表現與議題有兩個：墨闇碑（monolith）與AI。墨闇碑是著名科幻作家ArthurCharlesClarke的系列小說:ASpaceOdyssey當中由外星智慧所創造的先進儀器設備（devise），但是主要是透過《》這部電影而廣為人知。關於墨闇碑有許多有趣的詮釋理論，此處不贅述。在電影中墨闇碑也出現多次，最饒富意味的共有兩次。一次是史前時代，現代人類與文明尚未出現，只有人猿在活動的階段。突然有一天，一隻人猿看到了一個巨大的墨闇碑豎立於某處，人猿當然無從「理解」這個墨闇碑是什麼，有何意義。然而不久之後，在某種情境之下，人猿開始「會」由獸骨製作「工具」了，而且會使用這個工具去殺死獵物與敵人，並且似乎可以因此展現權力與支配。另外一次則是出現於電影結尾，在一趟探索木星的太空任務裡，太空船的超級電腦（也就是AI）HAL叛變，殺害了其他太空人（宇航員）。唯一倖存的太空人DavidBowman成功將HAL關機消滅之後，終於抵達木星，卻發現了一個巨大的墨闇碑。Bowman前往探索，不知為何，進入了未知時空，陷入恍惚，發現自己已經年老瀕死，躺在一個大房間內，床前又豎立了一個墨闇碑。年老的Bowman望著這個黑色異物，也是一樣無以理解，只能無力無助地等待死亡。然後突然Bowman變身為子宮中的胎兒，最後似乎以巨大胎兒的方式在太空中漂浮。依照小說作者的想法，墨闇碑就是外星智慧打造的機器、設備或器材，但是電影並未清楚說明墨闇碑到底是個什麼東西（Thing,dasDing）。[2]如果是一種設備或器材，觀眾也看不出來這個設備的用處或功能為何，電影中也有沒說明。不過也許這就是藝術作品的特色，藝術不是透過概念、理論或說明，而是透過展演、意象或想像[3]來呈現意涵。因此類似墨闇碑這麼重要的象徵（symbol），勢必置於各種開放性的詮釋可能之下。二、客體化的心靈？筆者認為，墨闇碑的一種可能詮釋是，它就是心靈（Mind）。如果想要配合Clarke的想法，也可以說，外星先進的智慧，使用我們所無的科技，打造出一個（或許多個）客體化的心靈。這個詮釋帶給我們的思考是：1.心靈，有可能客體化、外在化嗎？2.心靈，有可能透過科技來打造、製造嗎？3.打造出來的、外在化的、客體化的心靈，是否仍舊是個黑箱？4.如果一個東西，竟然是心靈，那這個東西，還僅僅是個東西嗎？循著這個詮釋途徑，讀者可以立刻發現，所有這些問題，都直接與人工智慧的問題相關。而這正好也是《》這部電影的重要主題。作為主角的人工智慧HAL，就如同一種打造出來的、客體化的心靈，幾乎具備心靈的所有功能，甚至包括恐懼。但是對太空人來說，HAL仍舊是個從外部難以摸索瞭解的黑箱。太空人並不知道他在想什麼，知道什麼，有何企圖，或者如何運作。當Bowman知道HAL打算殺死他們所有人之後，打算關閉或消滅HAL的過程，幾乎就像是一場Hegel在《精神現象學》當中提到的，生與死的鬥爭（Hegel,:）。這場鬥爭雖然最後Bowman勝出，但是在他的任務裡，終究還是遇到了無法理解的墨闇碑，或者說是另外一個巨大難解的人造智慧／心靈，[4]並且在試圖經歷探索這個對象時，陷入了自身老化，瀕臨死亡，卻又再度與墨闇碑面對面的境界。如果墨闇碑只是個器材（devise），史前的人猿不但無法理解使用，對牠們也沒有任何意義或意涵。墨闇碑與自然界的其他土石並無區別，人猿的認知裡對這些周遭環境也無從區分。因此墨闇碑對於人猿發展出工具的能力，不會有任何特殊的貢獻。但是在電影當中，導演Kubrick卻明顯地要賦予這個黑色長塊一種特殊的意涵。依照某種標準科幻（sci-fi）的理解方式，墨闇碑就是外星先進智慧所製造的器材設備，也可以說是一種AI，這個AI能夠以某種人類所無法瞭解的途徑，影響啟發了人猿，使得原本不具備智慧能力的野獸，跨越了純粹自然本能的限制，突破性地開始發展出智慧能力。而後才逐漸進化發展為現代科技社會的人類。在這種標準版的理解方式下，一切都仍起源於更高等（higher）的生命形式或智慧。即使到了科技時代，人類可以開始探索外太空，人們終究還是無法瞭解那個由墨闇碑所代表的，更更等的智慧器材。我想提出的另外一種詮釋觀點則認為，墨闇碑這個意象（image）可以象徵許多不同的事物，但是貫穿的關鍵是心靈，而不是高科技。在史前人猿的狀態下，這個黑色長塊的出現，代表了心靈能力的靈光乍現，這個初階的心靈，開始由被動感知（perceive,perception）外界，逐漸轉變為對外界的認知（cognition）。藉助GeorgeSpencer-Brown的觀念，所謂對外界的認知，就是開始有能力認知到區分（distinction）或區隔、分離、劃分（severance）。墨闇碑，就是某一特定對象，與其他事物的區分，甚至也可以說是第一個概念的出現，因為這個最初的區分動作將被會「記住」。Spencer-Brown在其重要著作LawsofForm一開始處寫道：本書的主題是在探討，當一個空間被劃分區隔時（aspaceisseveredortakenapart），宇宙如何開始存有的問題。正如有機生命的皮膚將它自身內部與外部隔開，一個平面上的圈圈也透過其圓周將平面區分為圈內與圈外。藉由追尋探索我們做出區隔的方式，我們可以開始以不可思議的精確與廣泛覆蓋方式，來重構語言學、數學、物理學、生命科學知識基礎的基本形式，並且開始看到我們經驗裡熟悉的法則，是如何規矩地遵循著原初劃分行動（theoriginalactofseverance）。即使是無意識的，此等原初劃分當然已被銘記為我們在世上第一個區分各種事物的嘗試，而這個世界在一開始的時候，是可以任憑我們的喜好來選定要畫下區分邊界的地方。（Spencer-Brown,:xxix。）人工智慧一語的創造者JohnMcCarthy是一位電腦工程師以及數學家，曾說「不打算做算術，就會流於胡言亂語」。但是人工智慧自始就是一個哲學問題，畢竟數字、智慧，與人造的，都是富涵哲學意義的概念。Spencer-Brown此書是數學基礎理論的重要著作。本文先以電影作品的一個象徵：墨闇碑，作為問題起點切入，不過終歸還是要援用屬於數學基礎理論的操作，劃分，來闡明這個象徵的可能意涵。Spencer-Brown也指出，在劃分之後，我們可以標記（marked）或標示（indicated）某一側空間（space）。這就是一切認知運作（operation）的起點。就本文所需要的討論而言，墨闇碑就是一個可區分以及運作的標示，就象徵著一切心靈的起源與基礎。因此這個運作─在電影中就是墨闇碑─是恆常不變的。不但從史前時代到太空探險科技時代，都恆定不變，它也象徵著，即使對於我們未知的外星智慧或甚至宇宙本身，它都一樣固定。因為這個墨闇碑，看起來像是個長方形的東西，佔有一定的空間，但是實際上並不是個經驗中的東西，而是一種運作，一種能力，一種使得心靈得以出現、作用、持續的基本能力。這種詮釋方式，也讓我們可以更深入的掌握電影中其他相關的象徵意涵。墨闇碑為何是闇黑的呢？一種簡明的說明是，個別心靈的運作，永遠是闇黑不明的。不但其他人的心靈是不透明的，我們永遠無法感知他者心靈。我們自己心靈的運作，也是晦暗不明的。即便我們可以意識到我們自己的意識（此即自我意識），[5]可以意識到概念與推論、思考，然而永遠有一層最深層的運作，是無法自我知悉掌握的。墨闇碑在電影中竟常要伴隨著光線襯托出現，正象徵著智性的公開運作，為闇黑的心靈帶來曙光，可以因此客觀表現出理性的一階（first-order）展演能力。但是不論如何挖掘，總是有著更深一層的二階（second-order）的運作，是無法被觀察解析的。[6]更深一層的象徵意義則是，即使我們透過科技打造製作出AI，人造的心靈，這個心靈也會脫離打造者而獨立運作，人們也一樣無法看透這個AI到底是如何運作的。正如同太空人無法知悉HAL的心思，或許多話語所隱藏的真正企圖，[7]心靈一旦出現，就總是帶著一層隱蔽。[8]三、心靈、決策與自我觀察：由MCTS談起（一）由AlphaGo系列到AlphaZero一般認為，年DeepBlue擊敗了世界西洋棋王是AI發展的重要里程碑（SilverandHubertetal.,;Campbelletal.,:57-83）。往後十餘年的AI發展，固然不限於下棋的領域，但是棋藝的增進，棋種的增加，都吸引了媒體與業界相當大的注意。圍棋（Go）與日本將棋（Shogi）都是研究測試AI能力的重要應用對象，尤其是圍棋方面的能力進展在近年來引起高度關注。年GoogleDeepMind開始研發圍棋對奕軟體AlphaGo，並且展開與真人棋手的對奕。過程中AG的能力不斷加強，與棋手對奕勝多輸少，引起各界注意。往後兩年的重要進展，各方報導已多，以下列出幾個重要的發展階段：[9]年10月，AlphaGo以5：0擊敗歐洲圍棋冠軍華裔法籍棋士樊麾。年3月，AlphaGoLee以4：1戰勝了韓國棋王李世乭。年12月，AlphaGo化名Master，以每天十盤的速度在中國的弈城、野狐等網路圍棋對戰平台，連續60盤擊敗中日韓台等地的頂尖高手（AlphaGoMaster）。年5月，在中國烏鎮圍棋峰會，AlphaGo以3：0戰勝柯潔。發展至此，AlphaGo似乎已經是世界最強的棋王，沒有人可以擊敗他。但是研究團隊卻在年10月19日在《自然》（Nature）刊物中介紹了棋力更超強的AlphaGoZero（SilverandSchrittwieseretal.,）。相較於之前的版本，這個版本的最重要特色是，完全不需要使用任何人類既有的圍棋知識，完全透過自我學習與訓練，在3天內以：0的成績擊敗AlphaGoLee；21天後實力達到AlphaGoMaster，並在40天內超過了所有之前的版本。[10]雖然AlphaGoZero的棋力再度大躍進，甚至在演算法與耗能方面都大大改進，但是研發的腳步並沒有停歇。在年底的一篇文章中，研發團隊又報告了通用演算法的改進，使得原本僅適用於圍棋的技術，也可應用在西洋棋與將棋（SilverandHubertetal.,）。這個通用的版本稱為AlphaZero。大約經過四個小時的自我學習，AlphaZero就可以贏過原本最強的西洋棋軟體Stockfish；少於兩小時，就可以勝過Shogi的最強下棋軟體Elmo。在八小時之後，AlphaZero的棋力也勝過了AlphaGoLee（SilverandSchrittwieseretal.,:4）。研究團隊又安排了依照正式競賽有時間限制的對奕（每一手限一分鐘），讓AlphaZero與三種下棋軟體對奕，得出如下表1的結果：表1GameWhiteBlackWinDrawLossChessAlphaZeroStockfishStockfishAlphaZeroShogiAlphaZeroElmoElmoAlphaZeroGoAlphaZeroAG03-day31-19AG03-dayAlphaZero29-21資料來源：參閱SilverandSchrittwieseretal.（:5）。這個表顯示，AlphZero在三個棋種Chess（西洋棋）、Shogi（日本將棋）、Go（圍棋），分別與三個程式Stockfish、Elmo、AlphaGoZero（經過三天訓練），對奕場的結果（右欄每一列中的數字加總都是；勝負是以AlphaZero角度）。在西洋棋方面，與Stockfish對奕，即使勝率只有28％，平手比例高達七成，但是AlphaZero一場未輸。與Elmo對奕將棋，有九成的勝率。即使與非常強大的AlphaGoZero下圍棋，也有六成的勝率。研究團隊指出，西洋棋一向是AI棋力的頂尖困難開發領域。原本的途徑，以各該棋種的專門資訊為基礎，需要運用強大的搜尋引擎，搜尋數百萬的棋步，搭配過往的棋譜與各種專業調適。但是AlphaZero開發全新的演算法，除了要輸入西洋棋的規則外，完全不需要任何人類既有的西洋棋知識資訊（例如出現次數非常高的開棋佈局），也大大減輕了搜尋的次數負擔，就可以透過自我對奕學習，短短幾個小時就極為快速地發展出驚人的棋力（SilverandSchrittwieseretal.,:5-7）。（二）蒙地卡羅樹搜尋不論是AlphaGo系列或者是AlphaZero，都使用到了一種演算判斷工具，稱之為蒙地卡羅樹搜尋（MonteCarloTreeSearch，縮寫MCTS）。MCTS是一種用於做出決策判斷的「啟發式搜尋演算」（heuristicsearchalgorithm，也許用「探索式」的說法更好）。[11]其基本想法是，從初始的根源階段或出發點開始（R），在每一個需要決策的階段，針對多個不同的選項，各自都可發展出後續可能的「枝葉」（L），也就是後續的選擇與接續選擇，一直到「遊戲」結束。再由結束的結果（勝、敗、和局等）回溯評估更新原本各階段的選擇，力求讓「整個一連串」的選擇過程，往「結果最優」的方向推進。MCTS一般包括下列四大環節（步驟）：選擇（Selection）、擴充（Expansion）、仿真（Simulation，又稱為playout或rollout）、反向傳播（Backpropagation）。由於這是AI領域相當基本的觀念，筆者也沒辦法說的比許多專業文獻更清楚，因此本文不花篇幅對這幾個概念多做說明。因為對進行倫理、法律或社會衝擊（ELSI）研究的人文社會科學學者，往往也不容易掌握這些演算法的數學/數理部分，但是卻可以瞭解這些演算法內在的一些基本特性，並用以反思AI的ELSI問題。MCTS的基本特性，就是一種樹枝狀的決策路徑分析。在一篇“Int8_aboutMachineLearning”網站文章中，作者用井字遊戲為例，做了一個簡明的入門介紹（Int8,）。起始狀態就是根源階段R，任何一步都尚未開始。一旦開始由某個節點（node）移往下一個，就是一手或一步（amove），然後依序輪流由對手與本人繼續下棋，每一步都是一層，直到遊戲結束，在下圖1就是由「三角形」表達的終結節點（terminalnode）。可以看到，每一步／每一層都有多種可能性，往下的發展，會使得可能性減少。但是可以看到，即使是井字遊戲這種相當單純的遊戲，到結束階段往往也還是有多種可能。在圍棋當中，可能性就複雜千萬倍。重要的是，MCTS是要搜尋分析每一步「往下／往後」發展時，未來可能導向「勝」或「敗」的前景預估。因此就需要運用演算法的設計來計算「最佳下一步」的策略。在說明AlphaGoZero的文章中也可看到，研發團隊仍然需要運用MCTS的方式來訓練AlphaGoZero，雖然其複雜度比「基本款」高很多，運用的方式與AlphaGo系列其他版本也不一樣（SilverandSchrittwieseretal.,:）。見下圖2表示。[12]四、悲觀論與演算法社會（一）機器倫理與AI的發展潛力有學者指出，過去十年在電腦科學最熱門的新興次領域，就是涉及機器的倫理問題（Yampolskiv,:-）。該篇文章出版於年，因此指的大約就是本世紀開始以來的十餘年。依照其所提供的文獻來看，作者Yampolskiy這個對趨勢的描述大致可接受，但是對台灣或中文世界來說，意義可能並不顯著。雖然在年已經有重要專書討論「道德機器」（WallachandAllen,），年已有學者在談「第二機器時代」（TheSecondMachineAge）了（BrynjolfssonandMcAfee,），然而在台灣，AI本身「技術／產業」議題的熱門化是年以後的事情。在21世紀初的時候，台灣非常有限的科技法或科技倫理等領域人力，主要都還投注在基因科技、生技製藥相關的領域，因此還遠遠談不上在機器倫理領域有何熱門發展可言（林琬真等，，頁49-67）。[13]Yampolskiy在前引文章中明確主張「通用人工智慧」（ArtificialGeneralIntelligence，縮寫AGI）是不符合倫理的（unethical），主要理由是認為AGI的發展會導致人類能力整體性地被機器所超越，使得人性成為無用，人類面臨滅絕。AGI也可能發展出心靈，會感受痛苦等能力。這種狀況反而使得AGI的研發不符合倫理（Yampolskiv,:）。事實上早在、年代，與AI相關的一些倫理議題，就已經引起注意與討論。HubertL.Dreyfus在年代初，就提出了對AI能力相當廣泛的懷疑論點（Dreyfus,）。他曾寫道：「人們開始認識到，例如在西洋棋的下棋程式裡加入越來越多的西洋棋知識，以求產出合理的棋步，最後卻發展出太多僅針對個案有用的子程式」（:）。Dreyfus是AI懷疑論的代表性學者。他的這個著作雖然成書於電腦科技較為早期的發展階段，但是他對AI能力發展的懷疑論主張一直到年代都仍沒有改變。這本著作在年由MIT再版，到年已經六刷（Dreyfus,）。全書除了書名調整，加上與年兩次新版的導論外，內容並未改變。（二）對AI發展前景的三種態度Dreyfus對西洋棋的分析主張，看似已經被後來的發展所推翻（尤其是最近的AlphaZero，這部分Dreyfus當然無法預見），但是懷疑論的基本主張與看法仍有參考性。依照Hauer的看法，面對AI的發展大體上有三種主要的態度觀點（Hauer,:-）。樂觀論認為，不論是機器能力的發展，以及對人類社會的貢獻，都可以抱持著正面肯定的態度。悲觀論則認為機器／AI的潛力很大，能力會越來越強，但是對人類文明的威脅也不斷增加。甚至未來可能出現由機器／AI主宰的狀況。懷疑論則認為，AI受限於其基本的運算能力特色，永遠不可能發展出類似或接近於人類的心靈或智慧能力（:-）。Dreyfus在前引著作的年版導論中甚至認為這已經是個定論，而且很有趣的，Dreyfus就認為不可能發展出類似HAL的AI（Dreyfus，:xix）。Hauer的三分法，涉及了能力面與影響面兩個向度。原則上要以能力面為前提，才能思考影響程度與方式。筆者比較傾向於悲觀論的看法，但此等悲觀論並不是因為新近AlphaZero在演算法上的突破推翻了Dreyfus對西洋棋的判斷，就認為AI的能力發展無侷限。至少到目前為止，我認為這種進展只是反駁了Dreyfus針對西洋棋或下棋這一類依循規則（rule-following）型活動的具體判斷，但是並沒有真正推翻其基本理論看法，亦即人類心靈具有許多無法透過演算法來達致的能力特色。筆者的悲觀論主要是認為我們可能問錯了問題，弄錯了重點，以致於無法面對真正的挑戰。我認為最優先要問的重點，並不在於AI是否能夠產生高度接近，甚至完全相同於人類心靈的能力，或者是否能產製出與人類幾乎一模一樣的機器人（人造人）；而在於人類社會的運作，是否越來越可以透過演算法，甚至依賴演算法來進行？也就是那些透過演算法所無法達致的心靈能力，在人類社會的運作中，是否有可能會越來越不重要，而社會生活中所需要滿足的功能，則日漸以AI來取代，以致於我們將慢慢走向一種演算法社會（AlgorithmSociety，縮寫ALSO）？用白話一點的方式說：並不是AI越來越像人，而是人類社會越來越AI！五、幾個思考（一）Asimov與A3法則機器或AI倫理討論，有一組相當文青式的出發點，是IssacAsimov於年的短篇小說Runaround當中所提出的三個法則（Asimov，；以下簡稱A3法則）：第一法則：機器人不能傷害任何人，或者透過互動，使得某人受到傷害。（arobotmaynotinjureahumanbeing,or,throughinaction,allowahumanbeingto