2023年10月4日 星期三

感想或書評

朱 敬一


《新 AI 與新人類》,我有許多不同意見


蘇經天博士寫了一本書,是當前正夯的 AI 話題。我認為此書與「值得閱讀」的門檻有不小的距離。書是作者寄送的,敬表感謝,但是書中有不少觀點值得商榷。那些觀點未必是錯的,但頂多只能算是作者的一家之言。我不希望讀者太受一家之言所影響,所以提出以評論。


蘇博士的學術訓練背景是生化、神經科學,對於認知科學理論、蛋白質結構擁有有豐富知識,因此他對於 AI 在新蛋白質結構探索方面的應用,我是贊同的。此外,蘇博士也從認知科學的角度將知識體系分類分層,進而解說為什麼 AI 能夠幫助人類在知識建構上更加突破,我也認為是別具創意。這些,都是此書前半部的內容。但是到了書的後半,作者犯了(自己描述舊知識體系)「線性推理」的毛病,對於他不全然了解的領域做了太多沒有說服力、甚至缺少證據的延伸,我就不得不評論一下了。


1)P 211,作者認為 AI 時代將協助形成一個「知識不再是特定群體的專利,我們將看到一個知識無國界、共享無界限的時代」。This is terribly wrong and misleading. AI 與大數據輸入是分不開的。對於擁有 big data 的人或群體而言,AI 功能甚大。反過來說,對於不容易接觸到 big data 的群體,AI 像是沒有油料的 F35 戰鬥機,沒什麼鳥用。但是,誰擁有、誰能接觸到大數據,是極度不公平的。在自由世界,FB、Google、Amazon 是手上大數據最多的強者。即使AI 「程式」是平價普遍的,但是「數據資料接觸」的不平等,完全看不出有什麼解決之道。即使 AI 時代,知識也絕對不可能共享,甚至不平等也將更為加劇。尤有甚者,AI 的學習功能是有 increasing return 的,這更會持續、擴大初始階段已然創造的不公平。


2)以上討論的是民間;如果把政府加進來討論,AI 的可能危害將更為驚恐。最近政治學文獻顯示,AI 將大幅穩固獨裁者的地位。以前,獨裁者的監控非常沒有效率。柏林圍牆倒塌時,東德 1600 萬人口,竟然需要 200 萬密秘警察與抓耙仔,才能執行監控,幾乎是「1 人只能監控 8 人」。現在,拜 AI 之𧶽,輔之以政府手中的人口、財稅、戶籍、房屋、通訊、IP、GPS、銀行等資料,獨裁者有如脫胎換骨,掌控人民易如反掌。例如中國的「社會記點」制度,幾乎掐死中國所有的反抗。此外,以前的獨裁者還得擔心瓜牙政變,但現代的 AI 瓜牙不會政變,獨裁將更加穩固。政治學者評估,2011 年的「阿拉伯之春」,現在在中國斷無可能。這樣,算是一種「AI 新世界」的成就嗎?


3)我想問一個反向思考的問題:一方面,中國想努力用 AI 篩檢資訊、監控人民、維持自己的極權統治。但另一方面,民主陣營的資訊工程師也可以利用 AI,去迴避中國的篩檢,也許用一種「中國 AI 篩檢沒有問題,滲入民間,但是慢慢發揮作用,逐漸掀起風潮」去反操作去設計 AI。這就像,現在有類似 AI 的軟體,去偵測某篇論文有沒有抄襲;將來會不會有另一種軟體,去「迴避」偵測軟體的偵查?這樣的 attack 與 counter-attack, 究竟哪一邊有優勢?或是,這只是沒頭沒腦的競爭?


4)作者對於知識體系的了解,恐怕疏散了些。作者有化學、生醫的知識背景,也讀了 EMBA。但 EMBA 所學與人文社會的知識骨幹之間,恐怕有重大差別。若由這些知識背景而推論 AI 對知識建構的幫助,也就有些瑕疵。說個故事幫助了解:2013 年我做國科會主委時,一位台大資訊工程系的大尾教授來報告他「數位化 ⋯ 歷史資料」的計劃,希望國科會補助。資訊教授說:數位化資料之後,電腦可以協助整理出各種關鍵字串連、型塑內容架構、文獻交叉分析等工作,這些都有利於未來研究。那個年代還沒有 AI 這個字,但是意思有點像。我問的問題是:余英時會覺得這些數位資訊整理有幫助嗎?這位教授楞住了。這是值得許多人思考的問題。


5)我粗淺地認為,包括 AI 在內的資訊梳理,應該可以大幅降低一些知識進入的「門檻」,省下很多「苦工」。但降低門檻未必有助於知識提升。就人文社會而言,知識的提升往往是「在余英時這一級的人的腦袋裡」完成的。他腦袋裡有一套特殊的、原本空白但逐漸充填的知識系統,「外力」難以介入。如果余英時真的用 AI 去協助,反而會攪亂了他自己的系統建構。有一回我請余公寫「與蘭花有關」的書法,他說「與蘭花有關的詩句,應該最早出現在楚辭吧」!這種偏冷偶然的問題,他是怎麼知道答案的?他哪裡需要 AI 幫忙找答案?如果他真的戴上一套配備偉大程式的人工智慧輔助,他自己原本的腦運作,會不會受到干擾呢?我不知道,但是我猜:會。


6)即使看看 hard science 的理論形成,我也不覺得 AI 一定有幫助。AI 的投入是數據資料,我們希望能經過大量投入數據,由此(或藉此幫助)產出「理論」。但 Einstein 不是這樣說的。E=mcc 的式子、光遇到重力會轉彎,當時都完全沒有「數據」。Einstein 的名句是:It is the theory which decides what we can observe (我則加上:not the other way around). 我認為,頂尖的研究者都有驚人的 insight;他們能夠在細部推導、實驗分析、統計迴歸之前,就大概「猜到」可能的結論。如果你問我 AI 對重要理論建構的可能幫助,我會回答:only if AI can help us form the insight. 


7) 我這個想法,與 2023 年九月十六日那一期的 Economists 專輯結論頗為類似。該雜誌說:AI 似乎對兩個領域的知識創新有幫助。其一是 literature-based discovery, 其二是 robot scientists. 前者,是利用類似 ChatGPT 的技術,把科學文獻上已經存在的理論知識,做無里頭的串接組合。後者,是用機器人權充科學家,把成千上萬個現有理論組合拚接,然後由機器人用實驗技術檢驗測試。我認為,這樣推論的 AI 可能貢獻頗為合理。記得 Steve Jobs 說,innovation is about connecting dots. AI 如果能夠幫助我們快速地連結成千上萬個 dots, 是比人工厲害多了。但是這與蘇博士的推論,有非常大的距離。


8)蘇博士認為 AI 也有助於心靈調適,幫助我們探索內在的自我和覺醒。這個說法近乎玄妙。至少禪修的覺醒,是唯心面的。「從聞思修 入三摩地 初於聞中 入流亡所 所入既寂 動靜二相了然不生 如是漸增 聞所聞盡 盡聞不住 覺所覺空 空覺極圓 空所空滅 生滅既滅 ⋯」。這「盡聞不住」的境界,「數據」還有什麼意義呢。最後,也講一下「面對 AI 的態度」。蘇博士建議我們「無須焦慮,只須積極應對」。可是我不想這樣。想積極應對卻發現自己應對不了,那恐怕才是焦慮的開始。我的哲學是:「能走絕不跑,能站絕不走,能坐絕不站,能躺絕不坐」。不管要積極或消極面對,我都不會焦慮。

沒有留言: