類似的話我講過太多次，講到人家覺得我只關心自己認為重要的領域，所以最近我只做不多講。
訓練大型語言模型的基礎建設是什麼？把大型語言模型放進個人裝置需要那些核心技術？國內投入多少資源在提升基礎建設、鑽研核心技術、培育人才和團隊呢？
國家層級的決策，個人說再多也不見得有用，等國家有共識再說吧。這麼多年來，我們應該都學到一件事情，等政府出手不如自己動手，業界有心做的話，要主動積極，這一波商機的技術門檻遠較過去高，如果抱持著舊有的心態，恐怕難以為繼。
【沉重的呼籲：大官員、大老闆們，請重視 Taiwan AI LLM】
以後每一台PC都是AI-PC，每人都可以擁有自己的LLM，每家公司或群體都可以擁有自己的LLM，建立專屬的數位大腦？
如果未來的世界景象真的如此，那麼，我們未來要用的基石LLM 從哪裡來？誰做的？
去年十一月底ChatGPT 爆紅，給世界帶來震撼，帶來了大語言模型(LLM) 的瘋狂浪潮。大家瘋狂的追逐 AI 2.0，科技大廠競相投入AI LLM競賽。
在中國，有超過一百家以上的廠商或研究機構大規模的積極投入 LLM 的研發。很多的LLM 計畫是從頭打造自家的模型。掌握根基的技術。
在台灣，則是普遍拿 Meta 的開源模型 Llama2 來加以訓練中文語料，強化中文的知識能力。沒有魄力、沒有規模、缺乏大量資料。
這樣足以作為台灣未來AI國力的基石嗎？我們會掌握AI關鍵技術能力嗎？我們會有競爭力嗎？
如果，未來 Meta 停止推出 llama2 後續開源模型，如果未來中國廠商開發出了中文最強大、最聰明的基石LLM，透過國內的廠商進軍台灣市場，怎麼辦？如果未來中國的廠商或是機構因為強大AI的加持大幅提升競爭力，而台灣的沒有，那會有甚麼後果？
如果【AI力即國力】，我們要怎麼提升我們的AI國力？尤其在最關鍵的 LLM 大腦建置上？
我們經濟部補助 67億給 Nvidia 在台灣成立 AI研發中心，請問，積極投入發展自己的AI LLM技術建立台灣的數位大腦重要還是吸引外資來建立他們的AI研究中心重要？AI LLM 對未來產業影響非常大，經濟部關心嗎？重視嗎？打算如何因應？
我們國家也重視太空科技，預計十年 250億，一年投入25億到火箭計畫。我們同意火箭計畫很重要，但是也容我們問一下，火箭計畫和數位台灣大腦計畫哪個重要？一樣重要好了，那麼 AI LLM 計畫的經費多少呢？長期規劃呢？
我們有非常強大的產業界，一年賺千億或百億以上的企業多的是，這些大老闆們與其智囊團如何評估未來AI LLM的影響？打算如何因應？還是只在等待政府的獎勵政策？
我們政府不是沒錢，產業多的是有錢的集團，資產上兆的集團數十個，這麼影響巨大的劃時代關鍵技術為什麼不積極投入？在怕甚麼？面對AI時代的浪潮，你們的魄力與遠見在哪裡？
到目前為止我所知道的台灣 LLM 團隊有國科會的 TAIDE、台大資工博士生林彥廷的Taiwan-Llama、聯發科創新基地、中研院資訊所辭庫小組等，可惜的是規模都很小，重複做近似的事情，拿開源的 LLM 來進行中文訓練，缺乏對技術的深入研發。抱歉，我悲觀地認為，這樣很難有強大的競爭力。需要有個機制來集結大家，並加入更多人才組成強大的團隊，更深入地做技術研發，才有機會。
我悲鳴的呼籲，希望大老闆們、大官員們好好想想，好好規劃，積極的以大魄力，大資源，集結國內AI LLM人才團隊，讓AI LLM 最強的人才來組隊來領導，來積極投入AI LLM技術研發與基礎建設( 例如大量資料集與人工知識內容建立)。以我所知，論AI LLM 實戰的功力，台大資工博士生林彥廷是最強人才，堪當大將。學界李宏毅等研究學者也是非常頂尖的人才，請給他們大資源讓他們積極的全心投入。
如果我們不積極建置台灣自己的強大數位大腦，而最後被宰治，在數位時代我們國家將失去靈魂，失去尊嚴，失去競爭力。
如果企業因為擔心LLM研發需要大資源，擔心冒太大風險，那就合作組隊，建立共同AI實驗室或是基金會，一個大企業出個兩億以上，十個大企業就有二十億以上經費，如果規劃妥當不亂花錢，夠了。只要能匯集台灣AI LLM最佳人才，建立強大研發團隊與內容建置團隊，就有機會成功的。
-----------------------------------------------------------------------
台雲耕耘大數據八年，累積了數十億華文網頁資料，數百億筆社群資料，目前全力投入AI平台系統建置計畫。也在規劃新的LLM 技術研發計畫。我們樂於跟其他團隊合作，或是共組更大團隊。我們有台灣最齊全的中文資料，我們樂於當根基建設的黑手，我們甘於當配角。我們相信只有大家一起合作組隊努力耕耘才有生機。
我老了，累了。我不知道還有多少時間可以為建設台灣數位大腦的理想而努力奮鬥，但還有一口氣，我殷切的盼望台灣可以組一個堅強的 AI LLM 團隊，由年輕的將才來發揮，我們盡量輔助，貢獻所長，也幫忙培育人才。或者，如果有大企業要積極投入 AI LLM 計畫，我們也樂於合作或加入。
沒有留言:
張貼留言