感想或書評

朱 敬一

《新 AI 與新人類》，我有許多不同意見

蘇經天博士寫了一本書，是當前正夯的 AI 話題。我認為此書與「值得閱讀」的門檻有不小的距離。書是作者寄送的，敬表感謝，但是書中有不少觀點值得商榷。那些觀點未必是錯的，但頂多只能算是作者的一家之言。我不希望讀者太受一家之言所影響，所以提出以評論。

蘇博士的學術訓練背景是生化、神經科學，對於認知科學理論、蛋白質結構擁有有豐富知識，因此他對於 AI 在新蛋白質結構探索方面的應用，我是贊同的。此外，蘇博士也從認知科學的角度將知識體系分類分層，進而解說為什麼 AI 能夠幫助人類在知識建構上更加突破，我也認為是別具創意。這些，都是此書前半部的內容。但是到了書的後半，作者犯了（自己描述舊知識體系）「線性推理」的毛病，對於他不全然了解的領域做了太多沒有說服力、甚至缺少證據的延伸，我就不得不評論一下了。

1）P 211，作者認為 AI 時代將協助形成一個「知識不再是特定群體的專利，我們將看到一個知識無國界、共享無界限的時代」。This is terribly wrong and misleading. AI 與大數據輸入是分不開的。對於擁有 big data 的人或群體而言，AI 功能甚大。反過來說，對於不容易接觸到 big data 的群體，AI 像是沒有油料的 F35 戰鬥機，沒什麼鳥用。但是，誰擁有、誰能接觸到大數據，是極度不公平的。在自由世界，FB、Google、Amazon 是手上大數據最多的強者。即使AI 「程式」是平價普遍的，但是「數據資料接觸」的不平等，完全看不出有什麼解決之道。即使 AI 時代，知識也絕對不可能共享，甚至不平等也將更為加劇。尤有甚者，AI 的學習功能是有 increasing return 的，這更會持續、擴大初始階段已然創造的不公平。

2）以上討論的是民間；如果把政府加進來討論，AI 的可能危害將更為驚恐。最近政治學文獻顯示，AI 將大幅穩固獨裁者的地位。以前，獨裁者的監控非常沒有效率。柏林圍牆倒塌時，東德 1600 萬人口，竟然需要 200 萬密秘警察與抓耙仔，才能執行監控，幾乎是「1 人只能監控 8 人」。現在，拜 AI 之𧶽，輔之以政府手中的人口、財稅、戶籍、房屋、通訊、IP、GPS、銀行等資料，獨裁者有如脫胎換骨，掌控人民易如反掌。例如中國的「社會記點」制度，幾乎掐死中國所有的反抗。此外，以前的獨裁者還得擔心瓜牙政變，但現代的 AI 瓜牙不會政變，獨裁將更加穩固。政治學者評估，2011 年的「阿拉伯之春」，現在在中國斷無可能。這樣，算是一種「AI 新世界」的成就嗎？

3）我想問一個反向思考的問題：一方面，中國想努力用 AI 篩檢資訊、監控人民、維持自己的極權統治。但另一方面，民主陣營的資訊工程師也可以利用 AI，去迴避中國的篩檢，也許用一種「中國 AI 篩檢沒有問題，滲入民間，但是慢慢發揮作用，逐漸掀起風潮」去反操作去設計 AI。這就像，現在有類似 AI 的軟體，去偵測某篇論文有沒有抄襲；將來會不會有另一種軟體，去「迴避」偵測軟體的偵查？這樣的 attack 與 counter-attack, 究竟哪一邊有優勢？或是，這只是沒頭沒腦的競爭？

4）作者對於知識體系的了解，恐怕疏散了些。作者有化學、生醫的知識背景，也讀了 EMBA。但 EMBA 所學與人文社會的知識骨幹之間，恐怕有重大差別。若由這些知識背景而推論 AI 對知識建構的幫助，也就有些瑕疵。說個故事幫助了解：2013 年我做國科會主委時，一位台大資訊工程系的大尾教授來報告他「數位化 ⋯ 歷史資料」的計劃，希望國科會補助。資訊教授說：數位化資料之後，電腦可以協助整理出各種關鍵字串連、型塑內容架構、文獻交叉分析等工作，這些都有利於未來研究。那個年代還沒有 AI 這個字，但是意思有點像。我問的問題是：余英時會覺得這些數位資訊整理有幫助嗎？這位教授楞住了。這是值得許多人思考的問題。

5）我粗淺地認為，包括 AI 在內的資訊梳理，應該可以大幅降低一些知識進入的「門檻」，省下很多「苦工」。但降低門檻未必有助於知識提升。就人文社會而言，知識的提升往往是「在余英時這一級的人的腦袋裡」完成的。他腦袋裡有一套特殊的、原本空白但逐漸充填的知識系統，「外力」難以介入。如果余英時真的用 AI 去協助，反而會攪亂了他自己的系統建構。有一回我請余公寫「與蘭花有關」的書法，他說「與蘭花有關的詩句，應該最早出現在楚辭吧」！這種偏冷偶然的問題，他是怎麼知道答案的？他哪裡需要 AI 幫忙找答案？如果他真的戴上一套配備偉大程式的人工智慧輔助，他自己原本的腦運作，會不會受到干擾呢？我不知道，但是我猜：會。

6）即使看看 hard science 的理論形成，我也不覺得 AI 一定有幫助。AI 的投入是數據資料，我們希望能經過大量投入數據，由此（或藉此幫助）產出「理論」。但 Einstein 不是這樣說的。E=mcc 的式子、光遇到重力會轉彎，當時都完全沒有「數據」。Einstein 的名句是：It is the theory which decides what we can observe (我則加上：not the other way around). 我認為，頂尖的研究者都有驚人的 insight；他們能夠在細部推導、實驗分析、統計迴歸之前，就大概「猜到」可能的結論。如果你問我 AI 對重要理論建構的可能幫助，我會回答：only if AI can help us form the insight. 

7) 我這個想法，與 2023 年九月十六日那一期的 Economists 專輯結論頗為類似。該雜誌說：AI 似乎對兩個領域的知識創新有幫助。其一是 literature-based discovery, 其二是 robot scientists. 前者，是利用類似 ChatGPT 的技術，把科學文獻上已經存在的理論知識，做無里頭的串接組合。後者，是用機器人權充科學家，把成千上萬個現有理論組合拚接，然後由機器人用實驗技術檢驗測試。我認為，這樣推論的 AI 可能貢獻頗為合理。記得 Steve Jobs 說，innovation is about connecting dots. AI 如果能夠幫助我們快速地連結成千上萬個 dots, 是比人工厲害多了。但是這與蘇博士的推論，有非常大的距離。

8）蘇博士認為 AI 也有助於心靈調適，幫助我們探索內在的自我和覺醒。這個說法近乎玄妙。至少禪修的覺醒，是唯心面的。「從聞思修 入三摩地 初於聞中 入流亡所 所入既寂 動靜二相了然不生 如是漸增 聞所聞盡 盡聞不住 覺所覺空 空覺極圓 空所空滅 生滅既滅 ⋯」。這「盡聞不住」的境界，「數據」還有什麼意義呢。最後，也講一下「面對 AI 的態度」。蘇博士建議我們「無須焦慮，只須積極應對」。可是我不想這樣。想積極應對卻發現自己應對不了，那恐怕才是焦慮的開始。我的哲學是：「能走絕不跑，能站絕不走，能坐絕不站，能躺絕不坐」。不管要積極或消極面對，我都不會焦慮。